前不久，内蒙古包头警方就曾通报，有骗子利用AI换脸和拟声技术佯装熟人实施诈骗，福州市某公司法人代表郭先生10分钟内就被骗走430万元。另一起发生在安徽安庆经济开发区的案件中，诈骗分子仅使用一段9秒钟的AI换脸视频，就从受害人处骗走了245万元。这两起典型案例引发了广泛关注和讨论。
来源：央视新闻客户端 一家跨国公司香港分部的职员近日被骗2亿港元，原因是他受邀参加了总部一场“多人视频会议”，被要求多次转账。实际上，这个会议只有受害者是真人，其余人全部是“AI换脸”后的诈骗人员。“AI换脸”诈骗是怎么实现的？公众该如何防范？
“AI换脸”技术被滥用的新闻近日登上热搜。除了被应用于电信诈骗，“AI换脸”还常被用于影视剧二次创作、趣味恶搞小视频，甚至淫秽色情影像的合成中，而在网络上有商家提供各类“换脸服务”。律师指出，从娱乐“玩梗”到违法犯罪，藏在“面具”背后的用户若对该技术不当使用，会承担多项法律责任。
6月25日，全国人大常委会法制工作委员会举行记者会，针对有关利用“AI换脸”技术进行视频合成、进而实施诈骗的问题，发言人臧铁伟指出：“万变不离其宗”，通过“AI换脸”进行视频合成、实施诈骗的行为，是利用新技术进行的诈骗，与传统的诈骗行为在本质上没有区别。
近日，因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展，“换脸技术”的应用范围越来越广，技术的突破还使得换脸后的人物表情、动作细节更为逼真，一旦被不法分子利用，可能带来严重危害。记者经调查发现，网上“AI换脸”软件的获取非常容易。利用此类软件的法律边界在哪里？
昨日，一则“涉黄AI换脸案”的新闻，冲上热搜有人将涉黄视频AI换脸成暗恋女生2020年浙江杭州的虞某接触了“AI换脸”软件为吸引流量他利用该软件制作大量淫秽视频并传播据虞某供述为了吸引更多的关注和流量他在社交软件上创建了“浏览群”和“私人定制群”“浏览群”主要用来传播“AI换脸”
连日来，知名模特叶凯薇被人利用AI换脸制作淫秽视频传播一事持续引发热议，也再次让AI换脸滥用引发的违法侵权行为受到关注。大皖新闻记者探访体验发现，网上能轻松找到相关应用软件，制作AI换脸视频，电商平台也有商家售卖此类软件，甚至宣称能做到“100％逼真”。
