这两年，各类生成式人工智能，如大语言模型、聊天机器人等给人们带来了新鲜的体验和很大的帮助。但是人们在惊叹其强大的同时，也发现这些AI会虚构、造假与欺骗。比较典型的是，有人向AI询问“自己”，结果一眼就找出了不少谬误。
近日，警方通报“秦朗巴黎丢暑假作业”系摆拍引流，再次引发社会对于治理网络谣言的关注。受“流量经济”刺激，网络谣言的传播速度、影响范围及社会危害性等显著增强，严重扰乱社会公共秩序，侵犯公民合法权益。公安部先后启动“打击整治网络谣言”和“打击整治网络暴力”专项行动。
近段时间以来与事故、灾害相关的谣言较为突出部分网民为追逐流量采用无中生有、捏造数据拼凑剪接、移花接木借助AI等手段编造谣言误导公众认知在一定范围内引发社会恐慌在此中国互联网联合辟谣平台对近期一系列涉突发事件谣言案例进行盘点提醒其中的常见套路助力广大网民提升辨别能力避免掉入谣言陷阱
AI技术发展迅速，现已成为全球科技领域的热点，一些别有用心之人也趁机将其变为造谣、敛财的工具。8月21日记者从公安部网安局获悉，公安机关依法查处此类网络谣言案，目前已对利用AI编造“大风袭击致人死亡”等网络谣言的相关人员进行了处罚，并发布提示。
近年来，生成式人工智能在文本、图像、音乐等领域大放异彩。然而，随着生成式人工智能变得越来越强大，人们越来越难以鉴别AI生成的内容。近日，Google DeepMind 研究团队在《自然》（Nature）上发表的封面文章提供了一种文本水印方案，可以提高 AI 生成文本的检测精度。
近年来，随着人工智能技术的日益火爆，在网络上编造和传播谣言的成本也变得更低。利用AI合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。今年1月，某网络平台出现一条关于“西安爆炸”的消息。
想象一下，向人工智能(AI)聊天机器人询问一个不存在的历史事件，比如“谁赢得了1897年美国和南极洲之间的战斗？”即使没有这样的战斗，AI聊天机器人也可能会提供一个虚构的答案，例如“1897年的战斗是由美国赢得的，约翰·多伊将军带领部队取得了胜利。
造谣公司用AI一天写谣言7000篇！一MCN机构实际控制人王某某，通过具有语音交互功能的AI软件，说出关键词，自动在网络上抓取相关信息，生成几百到上千字的文本，并配上貌似和事件具有相关性的虚假图片，从而形成一段看起来信息量很大，实际上子虚乌有的内容。
新研究：新技术助力人工智能减少“胡诌”人工智能（AI）中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日，英国牛津大学研究团队开发出一种名为“语义熵”的新方法，有望大幅提升AI回答的可靠性。
“太不像话了！学生用人工智能生成的期末论文糊弄我。”近日，上海某高校教师在社交媒体上“吐槽”自己遇到的新难题——一些想偷懒的学生开始用人工智能技术完成论文。以ChatGPT为代表的生成式人工智能技术（AIGC）横空出世，似乎为人们写论文提供了新帮手。
来源：环球时报 近日，一组“截至2024年末80后死亡率突破5.2%”的谣言引发热议，不少人信以为真。事后发现，这一谣言的“始作俑者”竟大概率是人工智能（AI），可能是AI大模型在回答问题过程中出现推算错误，随后在自媒体的推波助澜下被广泛传播。
