山西网络举报、 平安交口 近日，山西省吕梁市交口县公安局康城派出所在网安大队的支持下成功查处一起利用AI合成图片传播网络谣言的案件。违法嫌疑人司某为博取流量，利用AI生成了一张虚假高速指示牌的图片后发布在某短视频平台上。该行为严重扰乱了公共秩序，造成了恶劣的社会影响。
2024年8月，上海闵行的刘先生报案称，2个月前通过一则短视频结识了网友“焦女士”，双方迅速发展为恋人关系。随后，“焦女士”以开店、进货、家人做手术等理由向刘先生索要近20万元，并展示了“身份证”“家属病历”和“进货单”。然而，刘先生始终未见过“焦女士”本人，察觉被骗后报警。
来源：环球时报 【环球时报综合报道】据西班牙《20分钟报》20日报道，在西班牙埃斯特雷马杜拉的阿尔门德拉莱霍市，有人恶意传播通过人工智能（AI）技术处理过的镇上未成年女孩们的假裸照。此事在西班牙社会引起巨大反响，西班牙警方已介入调查。
近日，董宇辉在新疆阿勒泰直播时，身后如画般的树林河流被观众质疑“背景美得太假”，其只得向河流扔石头以自证。事实上，这也不能怪网友“太敏感”，近期就有一则揭露直播间场景“造假”的视频在网上热传，工厂直播被曝实为场景搭建，让网友们直呼“还有什么是真的？
新京报贝壳财经讯 3月27日，抖音安全中心发布消息称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
3月3日下午，有网友向演员刘晓庆求证，视频里的是不是真的她：“@刘晓庆 我看到一个微信视频号发了很多你的视频，好像是AI生成的，是假冒的吧？很多话不是你说的。”14点28分，刘晓庆转发并回复：“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？
AI发展快，系紧“安全带”（“融”观中国）——“人工智能与信息保护”系列报道之二AI“换脸”实施诈骗、AI伪造图片传播谣言、AI“复活”逝者引发争议……随着人工智能技术的不断发展，AI深度伪造的例子屡见不鲜。
中新经纬5月24日电 (常涛)某天，你的一位熟人发来借钱的请求，随后对方打来了视频。视频接通后你确认长相和声音就是熟人“本人”，你没有怀疑把钱转了过去。没过多久，你发现自己被骗了，刚才视频里那位“熟人”并不是真的他。这可不是鬼故事，而是已经发生在多位受害者身上的真实案例。
“眼见为实”的时代已经过去！在AI技术炙手可热的今天，“换脸”已经成为一件轻而易举的事情。一些视频博主在直播时也采用换脸的方式，不仅能实现“丑男变美女”，还有的直接使用名人的脸。对此，不少网友议论纷纷。据了解，此前，曾有知名人士多次投诉自己被“冒充”，甚至有的换脸软件被起诉。
人类医生漏诊的怪病，人工智能筛出来了，救人一命——上周网传的一则故事，有上海某知名三甲医院的名称，有医患的基本信息，有病情进展的细节，看上去很真实，一键转发很热闹。我看完第一反应是惊喜。过去几年，医疗一直是AI技术应用最广、成效最多的领域之一，如消息属实，值得报道。
3月21日，数张美国前总统特朗普“被捕”照片在互联网上流传。尽管相关图片很快被认出是AI作品，但仍引发大量网友关注和传播。南都大数据研究院发现，特朗普并非AI绘画技术的唯一相关者，事实上，多个基于真人形象训练而成的AI模型早在网上流传。
在当前这个AI遍地走、门槛近乎无的时代，如果你还没有试过用AI生成图片或视频（以下统称AI生图），那确实有点不够“潮”了。与其他新技术一样，AI生图技术自诞生之日起就充满争议，一路鲜花与荆棘相伴。支持者视它为颠覆性的技术革命，反对者视它为洪水猛兽。
