9月4日，2024外滩大会在上海开幕的前一天，一条人工智能相关的新闻冲上网络热搜：外滩大会全球Deepfake（深度伪造技术）挑战赛的参赛选手之一，中国科学院的“95后”女性算法工程师张欣怡宣布，已将近期参加挑战赛的AI模型向全球开源，希望以此降低Deefake对抗的使用门槛，援
Deepfake是一种将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。主要是将生成式对抗网络的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习从而实现伪造的目的。
近日“Deepfake”犯罪在韩国引起女性恐慌，中科院女工程师张欣怡表示：经团队同意，已将近期参加在上海举办的外滩大会AI创新赛·全球Deepfake（深度伪造技术）攻防挑战赛的AI模型向全球开源，让所有有需要的人都可以免费使用模型来对抗Deepfake，希望通过技术手段，为每一
韩国的N号房震惊世界，她们原本以为曝光这一切会迎来一个好的开始，没想到这只是天真的幻想而已。deepfake的诞生再一次把韩国女性推向深渊。我无法想象她们有多绝望，才会在微博上向中国网友寻求帮助。几乎韩国每所学校的男生都参加了这一场罪恶的活动。
如果您点开了这篇文章，请您给我几分钟的时间，希望您阅读完它，它无关国界，是很重要的“女性安全”deepfake ，是韩国男性用熟人的头像或者社交平台的动态制作，把他们的人脸P到成人的内容上，在Telegram聊天室里进行传播和分享，而这样的聊天室是需要付费或者说分享偷拍周围女性的照片，提供家庭成员的S照，才能进入。
据韩媒报道，韩国警察厅16日表示，2024年1月1日至10月14日，共受理并调查了921起利用深度伪造技术实施的性犯罪案件，逮捕474名嫌疑人。 据报道，474名嫌疑人中，年龄为10多岁的有381名，占80.4%。10岁以上未满14岁的有71人，占全体嫌疑人的15%。
近日，“深度伪造”犯罪在韩国引起女性恐慌，一些犯罪群体利用社交媒体和工作环境中的照片进行非法合成，形成了新的网络性犯罪趋势。这与之前N号房事件中对特定职业女性的性对象化如出一辙，现如今，随着深度伪造技术的应用，受害范围进一步扩大，涉及到学生、职业女性，甚至家庭成员。
9月6日下午，外滩大会AI创新赛·全球Deepfake（深度伪造技术）攻防挑战赛的表演赛拉开序幕，一场生成式AI与Deepfake检测技术的正面交锋引来了不少观众的围观。“一眼假”骗过AI据介绍，表演赛现场分为图像赛道和音视频赛道，各赛道前三名的选手两两PK。
三湘都市报全媒体记者 唐雨琪 黄亚苹从隐私泄露、信息泡沫到“深度伪造（deepfake）”，人们越来越清楚AI技术是把双刃剑的事实。若它刀刃向外，则化作探索未知的灯塔，为人类文明赋能；但当它刀刃向内，被居心不良者滥用，则意味着无数受害者被偷走的脸、身份、名誉、隐私和尊严。
