随着人工智能技术的发展，一些不法分子开始利用“AI换脸”实施网络诈骗。南京一家人工智能技术专业团队负责人介绍，“AI换脸”几乎可一键实现。如果想要生成一个相似度较高或质量较好的模型，一般需要1分钟左右的视频，音色的模仿也仅需1分钟左右的音频素材。
自己出镜的短视频，被“AI换脸”软件运营方做成“换脸”模板，面部形象被随意替换，该如何维权？24日，广东深圳中院公布了一起由“AI换脸”引发的侵权纠纷，法院认定涉案被告未经原告同意，利用信息技术手段使用原告肖像制作了伪造视频，其行为构成对原告肖像权的侵害。
事发后，也有不少人在社交媒体上发声，表示自己“被换脸了”。新浪科技发现，如今在小红书、闲鱼、B站等平台，利用AI美女视频教程吸引用户，号称“流行赛道，5天破万粉，日入四位数”的教程，成为行业灰产的温床。
从 2022 年底的Midjourney、stable diffusion，再到Open AI的 Chat GPT、DALL·E，Sora，谷歌的Gemini，AI已经在写文章、画画、制作图片、视频等领域展现出了自己无与伦比的能力。
用户点开“某颜”小程序，通过“AI换脸”便能一键生成自己的古风汉服形象，观看广告后还可免费保存到手机相册。谁知，部分模版素材竟是侵权“搬运”来的盗版？近日，上海市嘉定区人民法院（以下简称嘉定区人民法院）审结一起因提供“AI换脸”服务引发的著作权侵权纠纷案。
如今，“AI(人工智能)换脸”图片和视频成为热门现象。娱乐之余，让人真假莫辨，风险与困扰也不少。记者调查发现，屡被曝光的“AI换脸”背后，从传播到制作再到后端环节，几乎都藏着生意。当前，包括网络平台、通信公司在内，已有一些技术和措施识别“换脸”，但也面临着“矛与盾”的考验。
记者调查AI换脸拟声技术使用乱象“骗子来电，声音容貌和我家人一模一样”“妈，8000元不够，给我转1.5万元吧。”一位母亲正和女儿视频聊天，听着在外地上学的女儿在视频里撒娇抱怨“生活费不够用了”，她心疼不已打算立刻给孩子转账。就在这时，家门打开了，她的“真女儿”走了进来。
（央视财经《天下财经》）近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人的面孔和声音，制成非常逼真的合成图像实施诈骗。“AI换脸”背后的技术原理是什么？“AI换脸”后到底能有多逼真？
