近日“Deepfake”犯罪在韩国引起女性恐慌，中科院女工程师张欣怡表示：经团队同意，已将近期参加在上海举办的外滩大会AI创新赛·全球Deepfake（深度伪造技术）攻防挑战赛的AI模型向全球开源，让所有有需要的人都可以免费使用模型来对抗Deepfake，希望通过技术手段，为每一
Deepfake是一种将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。主要是将生成式对抗网络的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习从而实现伪造的目的。
常言道，眼见为实。而在AI时代，这句话可能要打上一个问号。随着内容生成技术的发展成熟，基于深度学习的深度伪造技术愈发让真伪难辨。2019年，英国广播公司推出一部新剧《真相捕捉》，讲述了一群人通过篡改视频、伪造证据的方式，栽赃嫁祸他人，剧中这些做法便是借助深度伪造技术实现的。
所谓“深度伪造犯罪”，即使用人工智能技术生成逼真的虚假内容，该技术的泛滥使得此次韩国女性的受害者数量以及相关色情图片视频的传播力度较之过去更上了一个台阶，受害者不得不在包括中国微博在内的各国社交平台发声，呼吁更多人关注。
有人10分钟被骗430万，＃AI诈骗正在爆发＃冲上微博热搜。近日，内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。
本报记者 李晖 北京报道技术大爆发永远是一把双刃剑。随着生成式人工智能技术的发展和普及，技术门槛大幅降低，也为不法分子提供了机会。2023年以来，“通过AI换脸和拟声技术实施诈骗”的新型骗局频繁登上新闻头条，引发大众关注。
9月6日下午，外滩大会AI创新赛·全球Deepfake（深度伪造技术）攻防挑战赛的表演赛拉开序幕，一场生成式AI与Deepfake检测技术的正面交锋引来了不少观众的围观。“一眼假”骗过AI据介绍，表演赛现场分为图像赛道和音视频赛道，各赛道前三名的选手两两PK。
