生成式AI正以惊人的速度进化出“一本正经胡说八道”的能力——不久前，两封信网上流传，一封署名英伟达CEO黄仁勋的内部信表达对DeepSeek的看法，一封是“来自”DeepSeek CEO 梁文锋对冯骥的公开回应。
这两年，各类生成式人工智能，如大语言模型、聊天机器人等给人们带来了新鲜的体验和很大的帮助。但是人们在惊叹其强大的同时，也发现这些AI会虚构、造假与欺骗。比较典型的是，有人向AI询问“自己”，结果一眼就找出了不少谬误。
想象一下，向人工智能(AI)聊天机器人询问一个不存在的历史事件，比如“谁赢得了1897年美国和南极洲之间的战斗？”即使没有这样的战斗，AI聊天机器人也可能会提供一个虚构的答案，例如“1897年的战斗是由美国赢得的，约翰·多伊将军带领部队取得了胜利。
你被你的“AI小弟”骗过吗？2025年开年的AI“明星”DeepSeek被接二连三地接入各行各业的工作流程中，人们在惊叹于其秒速生成的行业报告、法律文书时，却也发现，这些流淌着逻辑美感的文本中，正演绎着赛博世界最大的黑色幽默——“一本正经地胡说八道”。
2025年，新一代人工智能从实验室走进人世间。网上网下，人人都在谈大模型、个个都在议黑科技，从DeepSeek应用到“杭州六小龙”的思考，AI话题已经和柴米油盐一起，成为寻常生活里的日常。不过，AI虽好，它也是一把“利刃”，用好了快刀斩乱麻，用坏了也是伤筋又动骨。
《数码杂志》（Digital Journal）近日报导，因为Facebook的人工智能创建了自己的语言，情况开始失控，所以Facebook的科研人员紧急关闭了这个人工智能语言程序。这意味着什么，对未来的人工智能的发展有影响吗？
