Deepfake是一种将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。主要是将生成式对抗网络的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习从而实现伪造的目的。
界面新闻记者 | 实习记者 王鹏凯 黄月界面新闻编辑 | 黄月每个周六，“文化周报”向你汇总呈现最近一周国外文艺圈、出版界、书店业值得了解的大事小情。本周我们关注韩国深度伪造性犯罪大量涌现、电影《大都会》引争议、托尔金诗集将于9月出版等内容。
聊聊这四年半里，GAN 在人脸生成方面的进展: 见原文链接 见原文链接 见原文链接 见原文链接 见原文链接 pic.twitter.com/F9Dkcfrq8l – Ian Goodfellow 2019年1月15日。
常言道，眼见为实。而在AI时代，这句话可能要打上一个问号。随着内容生成技术的发展成熟，基于深度学习的深度伪造技术愈发让真伪难辨。2019年，英国广播公司推出一部新剧《真相捕捉》，讲述了一群人通过篡改视频、伪造证据的方式，栽赃嫁祸他人，剧中这些做法便是借助深度伪造技术实现的。
近日，韩国出现多起利用AI换脸伪造女性色情露骨图像的犯罪案，在这背后，犯罪者用深度伪造技术（Deepfake）合成色情照片和视频，并在通信软件Telegram的群聊中传播，参与者多达22万人，引发韩国民众恐慌。
来源：环球网 【环球网报道 记者 李文瑶】4 月 17 日消息，蚂蚁数科正式对外发布深度伪造（Deepfake）综合防控产品ZOLOZ Deeper ，以拦截用户刷脸过程中的“AI换脸”风险，目前已率先应用在身份安全领域。
“张文宏”深夜带货，女孩照片被熟人“换脸”网络上“AI名人”泛滥深度伪造之恶何解？张文宏开始直播带货了？近日，不少网友发文称，短视频平台上，疑似知名医生张文宏正在售卖一种蛋白棒，家中老人信以为真而大量下单。但仔细辨认可以发现，带货视频为AI合成。
西藏定日县的6.8级地震，牵动亿万网友的心。但一些虚假信息，比如AI（人工智能）生成的图片，也在造成误导。比如下面图片中，一个戴帽子的小孩被重压在倒塌的建筑物下。在某短视频平台上，至少有10个以上的账号发布该内容，有的账号甚至和西藏日喀则地震关联，获得好几万的转、评、赞。
韩国再现“N号房”丑闻，这次的关键词是“深度伪造犯罪”。所谓“深度伪造犯罪”，即使用人工智能技术生成逼真的虚假内容，该技术的泛滥使得此次韩国女性的受害者数量以及相关色情图片视频的传播力度较之过去更上了一个台阶，受害者不得不在包括中国微博在内的各国社交平台发声，呼吁更多人关注。
