6月14日，据央视新闻报道，一MCN机构实际控制人王某某，通过具有语音交互功能的AI软件，说出关键词，自动在网络上抓取相关信息，生成几百到上千字的文本，并配上貌似和事件具有相关性的虚假图片，从而形成一段看起来信息量很大，实际上子虚乌有的内容。
人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。■显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
绘图：郜曈年初，达沃斯世界经济论坛发布的《2025年全球风险报告》，将“错误和虚假信息”与武装冲突、极端天气、经济对抗和社会极化列为2025年全球面临的五大风险。虚假信息不仅误导消费者，还可能对社会秩序、国家安全甚至人民群众的生命财产安全构成威胁。
作者：任冠青英语退出高考？摆摊被罚16万？据央视新闻报道，近来网络上出现了一些用AI洗稿炮制出的假新闻。例如，2024年10月，一则标题为“大妈摆摊卖水果被罚16万，监管局回应不交就罚145万”的文章在网络上广为流传。
来源：央视网 央视网消息：公安部开展的网络谣言打击整治专项行动正在进行，近日，第2批10起典型案例公布，其中一个典型案例是绍兴警方破获的利用AI技术制作虚假视频编造网络谣言非法牟利案，该案也是浙江省首例团伙制作虚假视频案件。
近日，西藏定日县发生6.8级地震，灾情牵动人心。然而就在此时，也有个别人别有用心地用地震题材蹭热度，编造虚假信息，制造恐慌，被警方处罚。据山西网警1月10日发布消息称，1月7日，有人在某短视频平台发布消息称，“大同1月6日晚上12点发生了9.
来源：中工网-工人日报 工人日报-中工网评论员 吴迪无论是“逢大事便有谣言”还是“逢谣言便有AI”都提示我们，治标更要治本，要以前瞻性思维布局谋划，让打击治理谣言事半功倍。据1月12日央视新闻报道，近日，西藏日喀则市定日县发生6.
来源：【聊城日报-聊城新闻网】□ 侯莎莎“有图有真相？”未必。伴随着人工智能（AI）技术的发展，制造和传播网络谣言的手段也在不断演进。AI换脸、深度合成技术被一些不法分子用来炮制谣言、吸粉引流、非法牟利，严重扰乱了社会秩序。
随着AIGC（利用人工智能技术来生成各种类型的内容）创作的快速发展与迭代，网络空间变得更加丰富多元。比如，用各种模版一键上传照片，就可以生成各种有趣的小视频；看AI小猫小狗做饭，也成了近段时间的热议话题。但与此同时，AI生成的各种低质内容也铺天盖地而来，给广大用户造成信息干扰。
来源：央视新闻客户端 近年来，随着人工智能技术的日益火爆，在网络上编造和传播谣言的成本也变得更低。利用AI合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。今年1月，某网络平台出现一条关于“西安爆炸”的消息。
来源：公安部网安局 随着人工智能(AI)技术的发展，AI在文本生成、图片创作等方面有着广泛应用。输入几个关键词即可快速生成一张画或一篇文章，一些网民为博眼球、蹭热度将AI技术用以编“伪消息”、造“假新闻”，以此来获得网民关注和点赞量，进而实现流量变现。
