【环球网科技综合报道】9月5日消息,据《福布斯》报道,牛津大学的伊利亚·舒梅洛夫博士及其团队在《自然》杂志上发表了一项研究,指出当生成式 AI 软件仅依赖 AI 生成的内容时,其输出答案的质量会迅速下降。
编辑:编辑部【新智元导读】9次迭代后,模型开始出现诡异乱码,直接原地崩溃!就在今天,牛津、剑桥等机构的一篇论文登上了Nature封面,称合成数据就像近亲繁殖,效果无异于投毒。有无破解之法?那就是——更多使用人类数据!用AI生成的数据训练AI,模型会崩溃?
来源:科技日报 AI“模型崩溃”风险需警惕图片来源:美国《The Week》【今日视点】◎记者 张佳欣从客户服务到内容创作,人工智能(AI)影响了众多领域的进展。但是,一个日益严重的被称为“模型崩溃”的问题,可能会使AI的所有成就功亏一篑。
编译|赵宇彤“我不再像个老师,而是变成了一个人肉抄袭检测器。”近日,美国路易斯维尔大学英语系副教授艾米•克鲁基(Amy Clukey)在社交媒体写道,“过去,我把时间都用来帮助学生提升写作技巧;现在,则大部分用来检查他们的文章是否是自己写的。真是浪费生命。”这不是她一个人的烦恼。
【总编辑圈点】科技日报北京7月25日电 (记者张梦然)《自然》24日正式发表的一篇研究论文指出了一个人工智能(AI)严重问题:用AI生成的数据集训练未来几代机器学习模型,可能会严重“污染”它们的输出,这被称为“模型崩溃”。