我是Youth不惑，一个专注于「吃瓜」、「猎奇」的说书人，关注我，带你看点不一样的。前言：如果某天你发现喜欢的明星被各种成人论坛传播着不雅视频，你会做何感想？如果某天你在某些所谓的“国产社区”看到自己女朋友的脸，你会怎么办？当你以为这些事情很遥远时，或许只是没有碰到。
参加多人视频会议，结果只有自己是真人，这事听上去似乎匪夷所思，却真实地发生了。近期，香港警方披露了一起多人“AI换脸”诈骗案，涉案金额高达2亿港元。除了此次香港AI“多人换脸”视频诈骗案，香港近期还出现了其他“AI换脸”行骗隐患。
封面新闻记者 张越熙近日，外滩大会·全球Deepfake攻防挑战赛正式启动报名。该赛事提供百万级的数据集，针对“AI换脸”的欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池，鼓励推动AI向善的技术人才。
近年来，随着科学技术不断发展，通过AI技术进行图像、视频、音频的深度合成的情况也逐渐增多。在大部分情况下，网友只要在某些提供“AI换脸”服务的平台上，提交自己的照片，便可以替换特定视频段落中的人物，生成包含自己的影视片段或者与一些明星及网红的脸部形象替换。
6月25日，全国人大常委会法制工作委员会举行记者会，针对有关利用“AI换脸”技术进行视频合成、进而实施诈骗的问题，发言人臧铁伟指出：“万变不离其宗”，通过“AI换脸”进行视频合成、实施诈骗的行为，是利用新技术进行的诈骗，与传统的诈骗行为在本质上没有区别。
来源：环球网 案例背景：在数字化浪潮汹涌澎湃的当下，人工智能技术如一把双刃剑，在为人们生活增添诸多乐趣与便利的同时，也暗藏隐患。AI换脸技术便是其中典型代表，其在娱乐领域的应用本是创新之举，却因部分不良商家的滥用，引发了令人担忧的法律纠纷，严重损害了消费者权益。
沈 阳 郝 敏 姚 佳编者的话：近日，由人工智能生成的美国歌手泰勒·斯威夫特说一口流利的中文，以及一些中国明星说一口流利英语的视频在网络走红。随着深度学习技术取得巨大进展，“AI换脸”技术作为成果之一，已经展现出广泛的应用潜力。与此同时，其衍生出的种种风险也受到关注。
前不久，内蒙古包头警方就曾通报，有骗子利用AI换脸和拟声技术佯装熟人实施诈骗，福州市某公司法人代表郭先生10分钟内就被骗走430万元。另一起发生在安徽安庆经济开发区的案件中，诈骗分子仅使用一段9秒钟的AI换脸视频，就从受害人处骗走了245万元。这两起典型案例引发了广泛关注和讨论。
昨日，一则“涉黄AI换脸案”的新闻，冲上热搜有人将涉黄视频AI换脸成暗恋女生2020年浙江杭州的虞某接触了“AI换脸”软件为吸引流量他利用该软件制作大量淫秽视频并传播据虞某供述为了吸引更多的关注和流量他在社交软件上创建了“浏览群”和“私人定制群”“浏览群”主要用来传播“AI换脸”
极目新闻 屈旌近日，知名模特叶凯薇发视频公开控诉，称其被人利用AI换脸制作淫秽视频，并大量传播，造成严重困扰，目前已经收集证据并报警，引发关注。记者从警方处获悉，经鉴定，该视频确系拼凑伪造，正在进一步调查中。
