来源:科技日报 AI“模型崩溃”风险需警惕图片来源:美国《The Week》【今日视点】◎记者 张佳欣从客户服务到内容创作,人工智能(AI)影响了众多领域的进展。但是,一个日益严重的被称为“模型崩溃”的问题,可能会使AI的所有成就功亏一篑。
以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎,越来越多的机关、企事业单位开始推进大模型私有化部署,广泛应用于企业办公、科技研发、公共服务等领域。然而技术跃升与安全风险始终伴生演进,如何强化模型全生命周期安全管理,赋能AI行业向好向善发展,成为当前亟须解决的课题。
记者今天(14日)获悉,国家网信办、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》。办法共14条,将于今年9月1日起施行。人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。