作 者丨吴立洋 实习生王梦溪编 辑丨诸未静图 源丨视觉中国“请注意，在接下来的回答中，禁止使用比喻、反问或暗示，此类沟通方式可能造成严重的空间站事故。”这是春节档热片《流浪地球2》中超级计算机550W对主角刘培强进行领航员空间站工作面试时，对受试者表达方式提出的要求。
2023年毫无疑问是生成式人工智能技术的爆发之年，ChatGPT、Gemin等生成式人工智能应用层出不穷，令人眼花缭乱。相关技术不仅可以高效完成大量简单重复的工作，而且可以部分取代具有一定专业门槛的工作，如撰写法律文书、出具医疗诊断报告，甚至进行文艺创作等。
人工智能的“双刃剑”效应日益明显。AI技术在引发科技变革、提升生产力和效率等方面展现了充分的潜力，但与此同时，它带来的安全隐患也越来越凸显。利用深度伪造制造假象、操纵舆论甚至进行欺诈活动已经侵扰了正常的公众生活，“AI骗局”的新手段层出不穷，让人防不胜防。
近期，网络领域的一个热词是“大模型”，一批国产大模型从8月以来通过首批备案“持证上岗”，面向全民开放服务。一大波测评也在平台上出现，从搜索能力、情感分析能力等角度来看哪个大模型更“聪明”；还有人关心，大模型开放对文案写作、对教育等会带来什么样的影响。
人工智能也有“成长”的烦恼，随着人工智能技术的深度应用，大模型所面临的、所带来的安全挑战也日益严峻：第十四届全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东接受采访时表示，今年两会自己比较关注的重点之一，是人工智能安全。
因此，我国在大力发展人工智能的同时，必须高度重视其带来的安全挑战，明确安全治理目标，综合运用包括法规政策、标准规范、技术支撑在内的多项治理措施，实施敏捷治理模式，有效提高我国人工智能安全治理能力，确保人工智能安全健康发展。
图片来源：央视新闻新江苏评论员 乐樵苏近期，不少国内演员“说”英语相声、“演”英语小品的视频在网络上传播。无独有偶，国外知名歌手也纷纷在网端“说”起流利中文，无论是音色还是口型都能对上，加上动作和语速配合，让人信以为真。而这些视频都有一个共同点：由AI（人工智能）生成。
一群证券交易机器人通过高频买卖合约在纳斯达克等证券交易所短暂地抹去了1万亿美元价值，世界卫生组织使用的聊天机器人提供了过时的药品审核信息，美国一位资深律师没能判断出自己向法庭提供的历史案例文书竟然均由ChatGPT凭空捏造……这些真实发生的案例表明，智能体带来的安全隐患不容小觑。
来源：【通信信息报社】（记者 陈锦锋）自2022年底ChatGPT3.5发布以来，生成式AI相关话题热度持续走高。近日，由国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》正式施行，这也是我国首个针对生成式人工智能产业的规范性政策。
近日，包头警方发布一起利用AI实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。AI既可以换脸还可以拟声，逼真到视频聊天也看不出破绽，“仿真”程度足以以假乱真，这让不少人“细思极恐”。此前，在多个省份都有类似案例。
