“当技术普惠与人性弱点结合时，我们正面临一场前所未有的认知战争。”清华大学新闻与传播学院副教授陆洪磊这样说道。2月24日，今日头条“平台治理开放日”活动在北京举办，相关业务负责人与学界专家围绕网络虚假谣言、同质化发文、AI低质内容等领域的安全治理问题进行了深入讨论。
21世纪经济报道记者肖潇 北京报道《哪吒2》员工愿意996是因为公司在成都分房、梁文峰在知乎上首次回应DeepSeek走红、80后死亡率突破5.2%……类似的信息正在占领互联网。它们看起来有精确的细节，但没有信息来源，仔细搜索后还有明显事实错误。不少此类内容，被指出由AI生成。
12月12日，中央网信办发布《关于开展“清朗·整治短视频信息内容导向不良问题”专项行动的通知》（以下简称《通知》），自即日起开展为期一个月专项行动。据悉，此次行动集中整治“短视频传播虚假信息”“短视频展示不当行为”“短视频传播错误观念”三类突出问题。
“广州即将成为全国首个限制外卖配送的城市”登上网络热榜，经查系网民利用AI造谣；有人利用“AI去衣”软件制作淫秽物品贩卖获利，被处以行政拘留……随着AI技术的发展，不法分子为了牟利、引流，利用“AI生成图文”“AI换脸”“AI脱衣”工具作案愈演愈烈。
随着AI技术飞速发展，仅需动动手指就能轻松生产出画面逼真、要素齐全的假新闻的时代已经到来，这些虚假内容严重扰乱着网络生态与秩序。2月21日，据中央网信办消息，2025年“清朗”系列专项行动将重点整治8类行为，打击AI虚假信息等被包括在内。
将AI技术用于流量变现，一天就能生成4000多篇文章，以致“造谣”后连发布者本人都不知道……江西南昌警方查处的一个网络谣言案，再次引发社会对AI造谣乱象的关注。此前，一则关于某地爆炸的消息在网络平台传播，内容不仅包括确切的时间和地点，文字下方还配有爆炸图片。
AI技术发展迅速，现已成为全球科技领域的热点，一些别有用心之人也趁机将其变为造谣、敛财的工具。8月21日记者从公安部网安局获悉，公安机关依法查处此类网络谣言案，目前已对利用AI编造“大风袭击致人死亡”等网络谣言的相关人员进行了处罚，并发布提示。
中新网茂名7月27日电 (梁盛 麦君笙)广东茂名市公安局茂南分局27日发布消息称，按照上级公安机关关于打击网络谣言和“净网2023”专项行动部署要求，26日，茂名市公安局茂南分局依法查处茂名市首宗利用AI技术编造传播虚假信息案件，违法行为人被依法处以行政处罚。违法行为人接受审查。
加美颜滤镜的带货短视频、过度美化的种草笔记、AI合成的假商品图……“货不对版”已成为近年来电商行业最大的痼疾之一。针对行业乱象，3月27日，淘宝正式发布新规，率先启动AI假图治理，严厉打击利用AI假图欺骗消费者、侵害原创品牌商家的违规行为，保护原创商家和消费者权益。
