胡说八道不可怕，一本正经的胡说八道才可怕，你因为一本正经而信了ta的胡说八道，更可怕……这就是当下我们（捏着鼻子）使用 AI 时需要面对的现状。如何避免 AI 生成虚假的事实内容，对使用者产生误导呢？各个大模型平台一直在研究和尝试，而要想“避免”问题，首先得“识别”问题。
据美媒报道，美国密歇根州一大学生围绕“老龄化问题和解决方案”同谷歌AI聊天机器人展开对话，没想到却收到这样的回复：“你是社会的负担，是地球的负担，是大地的污点，是宇宙的污点。请去死吧，求求你了。”惊悚回答，迅速引发各方质疑。
生成式AI正以惊人的速度进化出“一本正经胡说八道”的能力——不久前，两封信网上流传，一封署名英伟达CEO黄仁勋的内部信表达对DeepSeek的看法，一封是“来自”DeepSeek CEO 梁文锋对冯骥的公开回应。
“自2025年1月1日起，宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”如果你通过AI咨询“多大年纪的老年人在宁波可以免费乘坐公交”相关问题，可能会获得这样的回答。然而，这个看上去有鼻子有眼的回答，却是一条彻头彻尾的假消息。
□蒋璟璟“自2025年1月1日起，宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”如果你通过AI咨询“多大年纪的老年人在宁波可以免费乘坐公交”相关问题，可能会获得这样的回答。然而，这个看上去有鼻子有眼的回答，却是一条彻头彻尾的假消息。
以ChatGPT、谷歌Bard为首的多个生成式AI应用正在辐射到千行百业——就在2023年12月29日（上周五），美国前总统特朗普的前经纪人兼律师科恩（Michael Cohen）被曝使用AI创造虚假案件，以为特朗普的逃税和竞选财务违规指控进行辩护。
“每20个‘80后’中就有1人已经去世”“广州法院对一起某品牌汽车L3级自动驾驶追尾事故作出判决”“四川凉山发生山体滑坡灾害”……近期，多条消息进入公众视野，事后被证明是使用AI编造的谣言，再度引发各界对于这类问题的关注和忧虑。
7月13日，最新一期的《歌手》公布排名：孙楠得票13.8%，外国歌手香缇莫得票13.11%。这引发了一些网友对排名的质疑。有网友认为13.11%大于13.8%，因此，香缇莫的得票率比孙楠高。随后，关于13.8%和13.11%大小比较，一度成为了网络上的热门话题。
1.AI的“智商巅峰”与“谎言危机”当地时间2月17日，埃隆·马斯克高调宣布推出新一代AI模型Grok 3，称其为“地球上最聪明的AI”，并承诺未来将开源旧版本。然而，这场技术狂欢背后却暗藏“信任危机”——第三方测试显示，Grok 3的“幻觉率”（即生成虚假信息概率）高达14.
提问刚过几秒，就得到一篇“长文”；扔进几张图片，就收获一部“大片”……如今，一些小伙伴写个文案、做个PPT、画个图、剪个视频，干啥都离不了AI（人工智能）。各色各样的AI大模型提升了工作效率，增强了脑回路。但是，一些幻觉也在不知不觉中产生了。
