聊聊这四年半里，GAN 在人脸生成方面的进展: 见原文链接 见原文链接 见原文链接 见原文链接 见原文链接 pic.twitter.com/F9Dkcfrq8l – Ian Goodfellow 2019年1月15日。
9月4日，2024外滩大会在上海开幕的前一天，一条人工智能相关的新闻冲上网络热搜：外滩大会全球Deepfake（深度伪造技术）挑战赛的参赛选手之一，中国科学院的“95后”女性算法工程师张欣怡宣布，已将近期参加挑战赛的AI模型向全球开源，希望以此降低Deefake对抗的使用门槛，援
·由人工智能生成的假泰勒·斯威夫特带货广告在社交媒体Facebook上传播。1月15日，印度的板球传奇人物萨钦·坦杜卡也成为了AI深度造假的受害者。·美国政府警告，“深度造假”诈骗正在增加，在购买商品之前请花一点时间重新检查帖子和社交媒体账户，这些照片和视频很可能是假的。
他们的其中一个 AI 角色 Emily Pellegrini，在 Instagram 上拥有近 12 万名粉丝，同时也是一位成人内容创作者，已经在 Fanvue 赚钱了，六周内通过订阅、按次付费内容等进账 9600 多美元。
韩国再现“N号房”丑闻，这次的关键词是“深度伪造犯罪”。所谓“深度伪造犯罪”，即使用人工智能技术生成逼真的虚假内容，该技术的泛滥使得此次韩国女性的受害者数量以及相关色情图片视频的传播力度较之过去更上了一个台阶，受害者不得不在包括中国微博在内的各国社交平台发声，呼吁更多人关注。
2024 年 12 月初，网络上出现了一段带货视频，在视频中卖力地推销某食品的居然是国家传染病医学中心主任、复旦大学附属华山医院感染科主任张文宏医生。不少网友出于对张文宏医生的信任，不仅自己购买，还积极地把视频转发到家族群。
9月6日下午，外滩大会AI创新赛·全球Deepfake（深度伪造技术）攻防挑战赛的表演赛拉开序幕，一场生成式AI与Deepfake检测技术的正面交锋引来了不少观众的围观。“一眼假”骗过AI据介绍，表演赛现场分为图像赛道和音视频赛道，各赛道前三名的选手两两PK。
眼见并不为实。全球范围内，诈骗分子正利用AI技术精准围猎普通人。去年5月的一份报告显示，迈克菲（McAfee）安全技术公司在对美国、澳大利亚、英国、德国、日本等在内的7个国家的7054人进行了调研，发现其中1/4的成年人曾经历过AI诈骗，而遭遇诈骗的人中，77%蒙受了经济损失。
潮新闻客户端 执笔 朱承假新闻，最近你碰到过吗？不久前，两封疑似AI生成的“重磅”信件引发网友大量转载——一封署名英伟达CEO黄仁勋的内部信表达对DeepSeek的看法；另一封“来自”DeepSeek CEO 梁文锋对冯骥的公开回应。
科技日报记者 刘霞生成式人工智能（AI）横空出世，可能给人类带来巨大的影响。美国高盛集团今年早些时候警告称，超过3亿个全职工作岗位可能会受到波及。美国国会研究服务局5月发布的一份报告指出，AI的最新创新也提出了新的版权问题，即如何界定AI创建或使用的内容属于侵权还是合理使用等。
当科技博主毕导看到数字人“毕导”大言不惭地抢自己的饭碗时，再一次直呼Amazing。9月6日下午，外滩大会AI创新赛·全球Deepfake攻防挑战赛的表演赛拉开帷幕，用AI技术对抗Deepfake的TOP选手代表，在全网期待中亮相。室外40度的天气，室内400度的热情。
近期多个基于真人形象训练而成的AI模型在互联网上流传，可快速生成大量虚假图片；南方都市报调查发现，已有人在闲鱼平台兜售相关模型及其训练服务，小红书上甚至已有账号利用AI生成图像假扮真人（相关报道）。针对其带来的安全风险，国内其实早已布局相关法规。
