9月4日，2024外滩大会在上海开幕的前一天，一条人工智能相关的新闻冲上网络热搜：外滩大会全球Deepfake（深度伪造技术）挑战赛的参赛选手之一，中国科学院的“95后”女性算法工程师张欣怡宣布，已将近期参加挑战赛的AI模型向全球开源，希望以此降低Deefake对抗的使用门槛，援
来源：【通信信息报社】（图片来源：摄图网）（记者 林碧涓）眼见一定为实？在信息爆炸的时代，这个观念正受到前所未有的挑战。近日，在微博等公众平台中，#Deepfake#多次冲榜，利用Deepfake工具进行侵权的行为引发公众关注。
Deepfake是一种将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。主要是将生成式对抗网络的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习从而实现伪造的目的。
在当前这个AI遍地走、门槛近乎无的时代，如果你还没有试过用AI生成图片或视频（以下统称AI生图），那确实有点不够“潮”了。与其他新技术一样，AI生图技术自诞生之日起就充满争议，一路鲜花与荆棘相伴。支持者视它为颠覆性的技术革命，反对者视它为洪水猛兽。
新加坡国会10月15日三读通过《选举（维护网络广告诚信）法令》。这项法律禁止在选举期间使用“深度伪造”（deepfake，即使用人工智能生成的技术将个人的声音、面部表情及身体动作拼接合成虚假内容）和其他数字技术制作有关候选人的广告内容。
他们的其中一个 AI 角色 Emily Pellegrini，在 Instagram 上拥有近 12 万名粉丝，同时也是一位成人内容创作者，已经在 Fanvue 赚钱了，六周内通过订阅、按次付费内容等进账 9600 多美元。
来源：环球时报 【环球时报报道 记者 苑基荣】“对于AI深度伪造所产生的一些问题和影响，我们深感担忧。”印度电子和信息技术部国务部长拉吉夫·钱德拉塞卡在29日接受英国《金融时报》采访时称，印度当前有8.7亿网民，其中6亿都在使用社交媒体，AI深度伪造导致的各类风险与日俱增。
