Deepfake是一种将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。主要是将生成式对抗网络的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习从而实现伪造的目的。
聊聊这四年半里，GAN 在人脸生成方面的进展: 见原文链接 见原文链接 见原文链接 见原文链接 见原文链接 pic.twitter.com/F9Dkcfrq8l – Ian Goodfellow 2019年1月15日。
“深度伪造”（Deepfake）犯罪已经引起了韩国女性恐慌。几日前，有多名韩国女性通过社交媒体发声，称她们在一些社交媒体上，特别是“电报”（Telegram）群组中，发现又一个“N号房”案件，韩国男性疑似大量分享传播伪造的周围女性的淫秽影像。
潮新闻 执笔 朱承假新闻，最近你碰到过吗？不久前，两封疑似AI生成的“重磅”信件引发网友大量转载——一封署名英伟达CEO黄仁勋的内部信表达对DeepSeek的看法；另一封“来自”DeepSeek CEO 梁文锋对冯骥的公开回应。乍一看信件文采斐然，自带人文情怀，还挺像那么回事。
封面新闻记者 张越熙近日，外滩大会·全球Deepfake攻防挑战赛正式启动报名。该赛事提供百万级的数据集，针对“AI换脸”的欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池，鼓励推动AI向善的技术人才。
不管是 ZAO 还是 MyVoiceYourFace，都是 Deepfake 技术的化身。最近，网络初创公司 Deeptrace 的一份报告中提到，网络上存在的 Deepfake 视频内容都涉及色情，其中大部分是女性，且几乎所有内容都是未经当事人同意就制作出来的。
事发后，也有不少人在社交媒体上发声，表示自己“被换脸了”。新浪科技发现，如今在小红书、闲鱼、B站等平台，利用AI美女视频教程吸引用户，号称“流行赛道，5天破万粉，日入四位数”的教程，成为行业灰产的温床。
西藏定日县的6.8级地震，牵动亿万网友的心。但一些虚假信息，比如AI（人工智能）生成的图片，也在造成误导。比如下面图片中，一个戴帽子的小孩被重压在倒塌的建筑物下。在某短视频平台上，至少有10个以上的账号发布该内容，有的账号甚至和西藏日喀则地震关联，获得好几万的转、评、赞。
