来源:环球时报 【环球时报赴博鳌特派记者 张颖颖 环球时报特约记者 任重】一封有关暂停训练高级人工智能(AI)的公开信日前引发热议。路透社30日报道称,这封公开信的主要内容是呼吁在6个月内暂停高级人工智能的开发。理由是AI可能对社会和文明构成潜在风险。
美剧《西部世界》和好莱坞电影《终结者》里曾描绘,人工智能(AI)的“觉醒”可能危及人类。最近,科幻片中的担忧照进现实,有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统,提出具有人类水平智能的AI系统可能“对社会和人类构成潜在风险”。他们的担忧从何而来?
来源:澎湃新闻 这封信呼吁,所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并实行暂停。
2023年3月29日,“Future of Life Institute(未来生命研究所)”的辛顿、马库斯、马斯克等1079名科学家和知名人士联合签署了公开信:呼吁所有AI实验室,立即暂停训练比GPT-4更强大的AI系统至少6个月。
文/羊城晚报财经评论员 戚耀琪上月底,美国的生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。
据路透社29日报道,美国亿万富翁埃隆·马斯克和一群人工智能科技领域专家和企业高管在一封公开信中呼吁,在6个月的时间内暂停开发比OpenAI公司新推出的GPT-4更为强大的系统,理由是他们主张那会对人类社会构成潜在风险。
本文转自:环球科学微信号:huanqiukexue素材来源:OpenAI如果有人在1年前告诉你,人工智能即将毁灭人类,科幻作品中的HAL-2000、MOSS、Matrix即将成为现实,你大概率会觉得他在杞人忧天。
最近一段时间,人工智能飞速发展,而当大多数人们 都在为人工智能AI的进化而欢呼雀跃时,包括特斯拉创始人马斯克在内的一千多名业界、学界人士发表联名信,呼吁所有AI实验室立即暂停训练比GPT4更强大的AI系统,暂停至少6个月。
·专注于人工智能技术伦理的AI和数字政策中心要求美国联邦贸易委员会调查OpenAI是否违反了消费者保护规则,认为其推出的AI文本生成工具“存在偏见、具有欺骗性,并且对公共安全构成风险”。·OpenAI首席执行官山姆·奥特曼发布推文:“在飓风眼中非常平静。
公开信链接:Pause Giant AI Experiments: An Open Letter - Future of Life Institute。内容如下:大量研究[1]表明并得到顶级AI实验室的认可,具有人类竞争智能的AI系统可能对社会和人类构成深远的风险。