图片来自于网络去年以来，一股利用AI深度合成技术假冒名人进行带货的歪风邪气悄然兴起，令人瞠目结舌。最近，有人发现全国政协委员张文宏在一直播间带货，且成功售出了1200多件蛋白棒产品。其实这不是真的，而是商家利用AI技术合成了张文宏的形象与声音。
作为新一轮科技革命和产业变革的核心技术，AI的安全性问题正在全球引发新一轮大讨论。随着越来越多的公司致力于开发自主AI，恶意行为者可能会故意在其中植入不良目标，善意开发者也可能在无意中创造出追求非目标的AI系统。
“当技术普惠与人性弱点结合时，我们正面临一场前所未有的认知战争。”清华大学新闻与传播学院副教授陆洪磊这样说道。2月24日，今日头条“平台治理开放日”活动在北京举办，相关业务负责人与学界专家围绕网络虚假谣言、同质化发文、AI低质内容等领域的安全治理问题进行了深入讨论。
