近年来，随着科学技术不断发展，通过AI技术进行图像、视频、音频的深度合成的情况也逐渐增多。在大部分情况下，网友只要在某些提供“AI换脸”服务的平台上，提交自己的照片，便可以替换特定视频段落中的人物，生成包含自己的影视片段或者与一些明星及网红的脸部形象替换。
前不久，内蒙古包头警方就曾通报，有骗子利用AI换脸和拟声技术佯装熟人实施诈骗，福州市某公司法人代表郭先生10分钟内就被骗走430万元。另一起发生在安徽安庆经济开发区的案件中，诈骗分子仅使用一段9秒钟的AI换脸视频，就从受害人处骗走了245万元。这两起典型案例引发了广泛关注和讨论。
连日来，知名模特叶凯薇被人利用AI换脸制作淫秽视频传播一事持续引发热议，也再次让AI换脸滥用引发的违法侵权行为受到关注。大皖新闻记者探访体验发现，网上能轻松找到相关应用软件，制作AI换脸视频，电商平台也有商家售卖此类软件，甚至宣称能做到“100％逼真”。
随着技术的不断进步AI应用场景越来越丰富“一键换脸”，和喜爱的偶像合影大叔通过AI技术秒变萝莉御姐“AI孙燕姿”刚“出道”就爆火……曾经离我们很遥远的AI如今正迅速进入大众生活需要注意的是骗子也盯上了AI技术利用它玩起了“真假美猴王”和你视频对话的可能不是本人近日包头警方发布一起
近年来，随着人工智能深度合成技术的快速发展，“换脸”“换妆”等应用软件广泛兴起，受到不少年轻人的喜爱。这类软件只需上传一张人物照片，就可以将照片中的人合成到模板中去，一键换脸、换妆，秒变视频主角。不过，这类风靡的“换脸”软件也潜藏着侵权风险。
近日，因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展，“换脸技术”的应用范围越来越广，技术的突破还使得换脸后的人物表情、动作细节更为逼真，一旦被不法分子利用，可能带来严重危害。记者经调查发现，网上“AI换脸”软件的获取非常容易。利用此类软件的法律边界在哪里？
上传一张照片，就可以把歌手换成自己；一键制作，就可以变成视频中的经典角色……一段时间以来，“AI(人工智能)换脸”技术被广泛应用于短视频的二次创作，给社会公众带来了新鲜体验。不少网友感叹，“AI换脸”生成的视频，惟妙惟肖，很有意思。
来源：环球网 案例背景：在数字化浪潮汹涌澎湃的当下，人工智能技术如一把双刃剑，在为人们生活增添诸多乐趣与便利的同时，也暗藏隐患。AI换脸技术便是其中典型代表，其在娱乐领域的应用本是创新之举，却因部分不良商家的滥用，引发了令人担忧的法律纠纷，严重损害了消费者权益。
“现有法律没有针对AI技术应用的详细规定，需要法院在个案中对相关问题进行探索。法官需要理解AI技术的原理和影响，以便准确认定侵权事实和责任。如何鉴定AI合成视频的真实性以及确认侵权行为的证据，是该类案件中法律适用的难点。
6月25日，全国人大常委会法制工作委员会举行记者会，针对有关利用“AI换脸”技术进行视频合成、进而实施诈骗的问题，发言人臧铁伟指出：“万变不离其宗”，通过“AI换脸”进行视频合成、实施诈骗的行为，是利用新技术进行的诈骗，与传统的诈骗行为在本质上没有区别。
作者：万周今年4月20日，福州市某知名企业法定代表人郭先生意外接到一位“至交好友”的视频通话信息。聊天中，“至交好友”告诉郭先生，他的朋友在外地投标，需要430万元保证金，且需要对公账户过账，所以想借用其公司的账户走一下账。
