来源:环球时报 在人工智能(AI)技术的飞速发展下,“AI幻觉”,即人工智能在信息处理和生成中的误差或错觉,已经成为不容忽视的问题。2023年,“幻觉”成为剑桥词典和Dictionary.com的年度词语。根据Dictionary.
潇湘晨报 “过去24个月,AI行业的最大变化是什么?是大模型基本消除了幻觉。”11月12日,百度创始人李彦宏在百度世界2024大会上,发表了主题为《应用来了》的演讲,发布两大赋能应用的AI技术:检索增强的文生图技术(iRAG)和无代码工具“秒哒”。
人工智能(AI)技术正以前所未有的速度发展,生成式AI凭借其惊人的创造力,不断刷新人们的认知。然而,即便是看似“聪明绝顶”的AI,也难逃“幻觉”的困扰。这里的“幻觉”,指的是AI生成看似合理但实际不准确或虚假的信息。
·OpenAI对抗AI“幻觉”的新策略是:奖励大模型每个正确的推理步骤,而不是简单地奖励正确的最终答案。研究人员表示,这种方法被称为“过程监督”,而不是“结果监督”。OpenAI在官方博客发布新论文《通过过程监督改进数学推理》。