来源：环球网 【环球网财经综合报道】9月9日，2024年国家网络安全宣传周主论坛，全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版。《框架》提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等人工智能安全治理的原则。
点蓝字关注，不迷路~4月11日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》（下称《管理办法》），向社会公开征求意见。受此影响，数据安全方向午后走强，截至收盘，美亚柏科涨超18%；三未信安涨超8%，盘中一度涨超11%；任子行涨超6%。
全球首部人工智能（AI）领域全面监管法规即将生效。欧洲理事会官网显示，当地时间5月21日，该机构将正式批准欧盟《人工智能法案》（下称《AI法案》）。该法案基于风险分类，将AI系统划分为四类，即不可接受风险、高风险、有限风险和极低风险，并针对不同风险类别采取了相应监管策略。
作者：毕研韬（海南大学公共管理学院教授、海南省新闻道德委员会委员）来源：《青年记者》2023年第11期导 读：在认知安全维度，美国政治风险咨询公司欧亚集团在其2023年全球风险指数报告中将生成式AI称为“大规模干扰性武器”。生成式AI可被恶意行动者操纵。
来源：环球时报 【环球时报综合报道】当地时间26日，包括美国、英国在内的18个国家签署并公布《安全人工智能系统开发指南》（以下简称《指南》）。参与签署的国家一致同意，应约束人工智能（AI）公司在开发与部署时“确保客户及公众的数据安全，并免遭滥用”。
作者：刘向东国家网信办等7部门近日发布《生成式人工智能服务管理暂行办法》，对生成式人工智能（AI）技术应用划定清晰边界，实行包容审慎和分类分级监管，确保科学监管和鼓励发展并行。《暂行办法》坚持发展和安全并重、促进创新和依法治理相结合，旨在推动生成式人工智能健康有序发展。
央广网北京6月29日消息（记者郭佳丽）近日，有媒体报道称，市民朱女士在某电商平台付费8.8元，购买了一项四维超声图AI预测胎儿长相的服务。当她看到其他消费者分享的生成图后，发现宝宝们竟然“撞脸”了。当她向卖家申请退费时，商家怀疑其是同行在搞鬼，拒绝退费。
AI聊天角色在回答中可能出现色情擦边、暴力对话等情况，主要与“数据来源的混杂性、商业模式的诱导性、监管机制的滞后性”这三大关键因素有关。从数据来源维度剖析，AI剧情聊天软件背后的大语言模型，其训练数据主要来源于对话式小说或提取自小说的文本内容。
两会·建言人工智能作为新质生产力的代表之一，是新一轮科技革命和产业变革的重要驱动力。“人工智能技术在催生大量新产业、新业态、新模式的同时，所带来的伴生安全和赋能安全风险不断加剧，尤其是对于关键信息基础设施是一把‘双刃剑’。
ChatGPT生成式AI，是当下的业界热点。ChatGPT模型的训练数据源于互联网，就有可能把网络上的偏见、不道德的文字数据，引入到对话中。因此，需要制定相应的法规和规范，从数据采集、模型训练到具体应用过程中，加强监管以确保ChatGPT技术的可持续、健康发展。
作者：徐超（中国社会科学院信息情报研究院副研究员）近年来，以信息技术为基础的新一轮科技革命方兴未艾，人工智能（AI）广泛应用于人类社会生活不同领域，促进相关产业链发展，同时也滋生诸多风险与挑战。为有效应对人工智能带来的风险与挑战，世界主要国家和地区陆续制定人工智能监管制度。
