AI（人工智能）在便捷人类工作、生活的同时，其双刃剑效应也日渐被重视——有人利用生成式文本技术制造虚假资讯、有人利用“深度伪造技术”颠覆视听真实边界、有人利用“智能仿生体”编织骗局以假乱真……今年春节期间，一名用户假冒DeepSeek创始人梁文锋发文，后被证明是AI生成的虚假内容
自4月23日开始，中央网信办在全国范围内开展为期两个月的“清朗·整治‘自媒体’无底线博流量”专项行动。重点整治“自媒体”造热点蹭热点，制造以假乱真、虚实混杂的“信息陷阱”等突出问题。近日，西安警方就破获了一起网络谣言案。
2024年10月，一则标题为“大妈摆摊卖水果被罚16万，监管局回应不交就罚145万”的文章在网络上广为流传，引发众多网民关注和议论。经调查，这篇文章是一家公司AI炮制出来的，它的背后，隐藏着怎样一个产业链？
潮新闻客户端 执笔 朱承假新闻，最近你碰到过吗？不久前，两封疑似AI生成的“重磅”信件引发网友大量转载——一封署名英伟达CEO黄仁勋的内部信表达对DeepSeek的看法；另一封“来自”DeepSeek CEO 梁文锋对冯骥的公开回应。
近日一则标题为《山东大妈摆摊卖水果被罚16万，监管局回应不交罚145万，法院判了》的文章在网络上广为流传。该文章一经发表，阅读量瞬间突破7万次，迅速引起网民的关注和议论。经当地有关部门核实，发现该文章内容为不实信息，系位于长沙市开福区某MCN公司发布。
苹果牌“AI”苹果智能（Apple Intelligence）近日再次因生成虚假新闻摘要而受到关注。据2024年12月相关报道，BBC 称 Apple Intelligence 通知摘要功能“张冠李戴”，生成了和事实不符的摘要内容，曲解了新闻内容。
2024年国内50个AI相关风险舆情案例类型 *数据来源:根据2024年搜索热度较高的50个国内AI风险相关舆情案例统计(统计日期截至12月20日) 2024年国内50个AI相关风险舆情案例风险分布 一个头戴彩色毛线帽的小孩被压在废墟下，周围是散落的瓦砾和碎石。
10月17日，成都公安微信公号发布关于“四川启动2.15万亿拆迁项目”“成都大规模拆迁，有人一夜暴富”等信息的警情通报。新闻多一点：“成都拆迁”冲上热搜！有人拿900多万？有人拿17套房？多方回应→“我家拆迁拿到900多万！”“我拿了17套房，还有三年房租。
1月7日，西藏日喀则市定日县发生6.8级地震，牵动着许多网友的心。但与此同时，一些网友为了流量，利用AI技术生成灾区群众被埋、房屋坍塌等虚假照片，并配以“日喀则地震”等关键词后发布。其中，一张“被压废墟下的小男孩”的图片引发广泛关注。
AI技术在被用于处理繁复劳动的同时，也被不法之徒用于批量制造谣言，甚至已形成了谣言产业链。近期，多地公安机关发布了多起利用AI工具实施造谣的相关案件。6月20日，上海市公安局城市轨道和公交总队发布警情通报：有营销人员使用AI软件技术，编造了“地铁行凶”的虚假视频发布到网上。
近年来，随着人工智能技术的日益火爆，在网络上编造和传播谣言的成本也变得更低。利用AI合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。今年1月，某网络平台出现一条关于“西安爆炸”的消息。
