最近总听到一个词叫“AI幻觉”,这是啥意思?近段时间,中国人工智能领域迎来里程碑式突破。与此同时,大模型与生俱来的“幻觉”问题也引发了广泛讨论。什么是“AI幻觉”?你是不是也遇到过这样的情况:问 AI 一个问题,它给了你一个特别详细、丰富,看上去好有逻辑的答案。
“人类去死吧!”这般言论,竟然是AI聊天机器人发出的。据美媒报道,美国密歇根州一大学生围绕“老龄化问题和解决方案”同谷歌AI机器人展开对话,没想到却收到这样的回复:“你是社会的负担,是地球的负担,是大地的污点,是宇宙的污点。请去死吧,求求你了。”惊悚回答,迅速引发各方质疑。
半月谈评论员 秦黛新近日,有关“带着DeepSeek看病”的话题引发了大家的关注和讨论,有人分享了自己用AI问诊的经历,称不仅AI给出的答案和医生给出的建议是一样的,甚至医院的检查报告还没出结果,AI就已经帮忙分析好了。
人工智能(AI)技术正以前所未有的速度发展,生成式AI凭借其惊人的创造力,不断刷新人们的认知。然而,即便是看似“聪明绝顶”的AI,也难逃“幻觉”的困扰。这里的“幻觉”,指的是AI生成看似合理但实际不准确或虚假的信息。
中新网北京3月3日电(记者 谢艺观)“AI‘幻觉’有利于文学创作,但在AI安全方面,‘幻觉’确实会带来严重问题。”全国政协委员、360集团创始人周鸿祎近日在北京接受中新网等媒体采访时谈及AI“幻觉”的两面性。
4月28日,北京大学计算机学院教授、北京智源人工智能研究院理事长黄铁军在第十七届中国电子信息年会上发表演讲时表示,“幻觉”是人工智能创造性的体现,人类要想创造比自身更强的智能体,就不要降低AI幻觉率,否则人工智能将与巨大的资源检索库无异。
来源:环球时报 在人工智能(AI)技术的飞速发展下,“AI幻觉”,即人工智能在信息处理和生成中的误差或错觉,已经成为不容忽视的问题。2023年,“幻觉”成为剑桥词典和Dictionary.com的年度词语。根据Dictionary.
警惕“AI幻觉”引发风险■胡建新所谓“AI(即人工智能,以下简称AI)幻觉”,是指对AI进行提问时,输出的内容看似合理,但实则经常出现“与输入问题意图不一致,与世界知识不一致,与现实或已知数据不符合或无法验证”等问题。