浙江杭州检察机关曝光了一个“女神群”，群里发送的淫秽视频有不少是犯罪嫌疑人使用“AI换脸”技术合成的，还可以根据顾客需要“私人定制”；河北高阳警方破获了一起制作、贩卖、传播淫秽物品牟利案，犯罪嫌疑人通过社交群自学“AI换脸”技术，用明星形象制作淫秽视频在网上以每10分钟300元的
上海网络辟谣 最近，“AI捏脸”视频在社交平台上颇为流行——一双手捏住各种立体人像，慢慢用力，把人像捏扁、捏爆、捏碎，被捏的对象既有发布者本人，也有各种影视剧人物乃至虚拟人物。不少发布者表示“AI捏脸非常解压”，并鼓励他人尝试。其实，实现AI捏脸并不复杂。
4月26日，一名拥有百万粉丝的网红博主称自己的“脸被偷”，有人用AI换脸软件，制作她的不雅视频。该博主还称，经过深入了解，她发现“AI盗脸”视频好像已经形成一条产业链。记者在社交平台发现，贩卖“去衣软件”或提供“AI换脸”服务的卖家不少。
来源：环球时报 编者的话：近日，由人工智能生成的美国歌手泰勒·斯威夫特说一口流利的中文，以及一些中国明星说一口流利英语的视频在网络走红。随着深度学习技术取得巨大进展，“AI换脸”技术作为成果之一，已经展现出广泛的应用潜力。与此同时，其衍生出的种种风险也受到关注。
（图片来源：摄图网）（记者 卢臻）“10分钟被骗430万”，日前，包头警方发布的一起利用AI实施通信诈骗的案例冲上热搜。随着ChatGPT的火爆，关于AI技术的争论就不曾停止过，如何应对人工智能可能带来的安全问题成为各界关注点，也成为网络安全工作的下一个着力点。
随着人工智能技术的快速发展，相关的应用正在进入我们生活的方方面面。然而，这也给个人信息保护带来了新的挑战。在8日开幕的2024年国家网络安全宣传周上，关于AI换脸、换声等对个人隐私侵害的话题成为大家关注的焦点。
浙江杭州检察机关曝光了一个“女神群”，群里发送的淫秽视频有不少是犯罪嫌疑人使用“AI换脸”技术合成的，还可以根据顾客需要“私人定制”；河北高阳警方破获了一起制作、贩卖、传播淫秽物品牟利案，犯罪嫌疑人通过社交群自学“AI换脸”技术，用明星形象制作淫秽视频在网上以每10分钟300元的
近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。4月7日，浙江杭州萧山区检察院曝光的一个“女神群”，引发关注——据了解，“AI换脸”技术的走红，让80后安徽小伙虞某嗅到了商机。
北京日报 | 记者 袁璐日前，全国多地警方发布了多个“AI诈骗”的典型案例，案件披露后，“AI诈骗正在全国爆发”话题一度冲上热搜第一，引发网友热议。记者调查发现，目前有不少人对外提供定制AI换脸视频，仅需正面半身照即可，成本低至数十元。
来源：安徽商报 “换脸以后亲妈都不认识了。”爱玩短视频的朋友对“换脸”软件不会陌生，利用软件将影视剧或者短视频内的脸换成自己的，自己就成了主角，简单方便又有趣。然而，“换脸”软件其实也存在侵权的法律风险。我省凤台县一名女子就因为被软件“换脸”，将一款换脸软件起诉至法院。
新华社发 (徐骏 作)通过AI换脸和拟声技术，10分钟骗430万元；AI虚拟人在聊天中筛选出受害者，人工接力实施诈骗……近期，多起宣称利用AI技术实施诈骗的案件引发关注。“新华视点”记者近日与公安部门核实确认，“AI诈骗全国爆发”的消息不实，目前此类诈骗发案占比很低。
