近日，一条李玟被AI“复活”的视频登上微博热搜，科比、高以翔、乔任梁等逝世明星也在网上被AI“复活”。在生成式AI发展浪潮下，通过收集逝者生前的图片、音视频等资料，数字“复活”他们的音容笑貌已不罕见，但“复活”去世明星或合成当红明星的AI视频可能违法违规。
随着人工智能技术的发展，一些不法分子开始利用“AI换脸”实施网络诈骗。南京一家人工智能技术专业团队负责人介绍，“AI换脸”几乎可一键实现。如果想要生成一个相似度较高或质量较好的模型，一般需要1分钟左右的视频，音色的模仿也仅需1分钟左右的音频素材。
金发碧眼美女，一口流利的中文谈论婚姻和中国话题，仿佛成了流量密码。“我们国家生产的许多产品都是中国制造，中国有五千年的历史，我对这个国家的热爱深厚。”屏幕上，一个所谓“俄罗斯美女”侃侃而谈，而这只是新京报贝壳财经记者以6元价格买到的“换脸视频”。
央广网北京12月12日消息（记者张胜坡）近日，广州互联网法院审结了一起因“AI换脸”视频合成模板引发的纠纷案件。一位知名短视频博主发现，自己的汉服装扮视频被一家科技公司制成了付费“AI换脸”模板。该博主以侵犯肖像权为由，状告科技公司要求赔礼道歉，并赔偿5万元。
南都讯 记者赵青 通讯员曹钰 陈芊 谭静宜伴随着人工智能的快速发展，AI换脸、AIGC创作、虚拟数字人等前沿技术应用向当前司法提出新挑战。12月4日“国家宪法日”到来之际，南都记者聚焦广州互联网法院审理的典型案例，明晰AI大模型等新兴领域权利形态的法律属性，普及法律知识。
OPENAI发布文本转视频模型SORA引发全球关注。这类技术的普及除了将颠覆视频内容的生产方式，也让造假成本更低廉。一些不法分子利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。
“AI换脸”技术被滥用的新闻近日登上热搜。除了被应用于电信诈骗，“AI换脸”还常被用于影视剧二次创作、趣味恶搞小视频，甚至淫秽色情影像的合成中，而在网络上有商家提供各类“换脸服务”。律师指出，从娱乐“玩梗”到违法犯罪，藏在“面具”背后的用户若对该技术不当使用，会承担多项法律责任。
