“AI换脸”，相信大家都不陌生，只需要一张照片，通过深度合成技术，任何人都能成为热播影视作品中的主角，甚至表情、神态都足以以假乱真。然而，近年来，伴随着技术门槛的降低和应用场景的增多，“换脸技术”的应用早已突破原来的娱乐范围，甚至成为不法分子牟利的手段。
“回答我，look in my eyes，tell me why？”这几日你有被老祖宗们贴脸开大吗？近几日，用AI复活历史人物并使用咆哮体输出“回答我”的魔性视频成为了2025年第一爆梗，从个人博主到自媒体创作者再到各地文旅官方账号纷纷开启“整活”，互联网被暴躁的老祖宗们刷了屏。
来源：央视新闻客户端 一家跨国公司香港分部的职员近日被骗2亿港元，原因是他受邀参加了总部一场“多人视频会议”，被要求多次转账。实际上，这个会议只有受害者是真人，其余人全部是“AI换脸”后的诈骗人员。“AI换脸”诈骗是怎么实现的？公众该如何防范？
人工智能会比人聪明吗？会跟人类“抢饭碗”吗？未来的世界由谁主宰？莫慌！10月18日21时30分，请锁定总台央视新闻频道《高端访谈》专访图灵奖得主瓦利安特，为你答疑解惑！©2024中央广播电视总台版权所有。未经许可，请勿转载使用。
据@人民日报消息，在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。 他说：“一些喜欢我（出演的）影视剧的观众，被AI换脸视频骗得很惨，这个（诈骗）性质非常恶劣。希望能建立更好的规则。” 据此前报道，网络上有人利用AI合成照片等方式冒充“靳东”诈骗。
（央视财经《天下财经》）近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人的面孔和声音，制成非常逼真的合成图像实施诈骗。“AI换脸”背后的技术原理是什么？“AI换脸”后到底能有多逼真？
中国网5月25日讯 近年来，AI技术成为科技领域的热点，但也出现滥用，甚至被不法分子用以实施犯罪，如伪造不雅视频、换脸诈骗等。包头市公安局电信网络犯罪侦查局发布了一起使用智能AI技术进行电信网络诈骗的案件。
调查动机知名医生张文宏带货蛋白棒？不久前，某视频博主发布的视频中，张文宏医生强烈推销一款蛋白棒，让不少网友信以为真，一时销量近1200件。张文宏随后作出回应称，视频是AI合成的，“我在发现这事后立即投诉过那个AI合成的视频，但是它的账号一直在换，自己最后也没精力了。
近年来，随着科学技术不断发展，通过AI技术进行图像、视频、音频的深度合成的情况也逐渐增多。在大部分情况下，网友只要在某些提供“AI换脸”服务的平台上，提交自己的照片，便可以替换特定视频段落中的人物，生成包含自己的影视片段或者与一些明星及网红的脸部形象替换。
今年以来，ChatGPT和GPT-4等技术的应用，成为了信息科技领域的热点，引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。
央视新闻客户端 明星现身、专家卖药……一张图片、一段声音，就能生成虚假视频，今年两会期间，雷军等受害者的回应，让AI伪造侵权再次成为热点。换脸拟声合成视频 AI伪造何时休？全国人大代表 雷军：有网友说去年国庆放了7天假，8天被我骂醒。
