许多人工智能研究人员认为，未来超级人工智能的发展可能会导致人类灭绝。不过，对于这种风险仍存在较大的分歧和不确定性。这一发现来自对2700名人工智能研究人员的调查，这些研究人员都曾在最近召开的6个顶级人工智能会议上发表过研究成果。这是迄今为止规模最大的一项调查。
这封被众多人工智能领域大佬发声支持的公开信，其实全文只有简短的一句话:Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.
麻省理工学院的物理学家和人工智能专家马克斯·泰格马克（Max Tegmark）近日在接受瑞典国家广播公司SVT的采访时表示，人工智能有50%的可能性会消灭人类，而且我们将不知道它如何或何时发生，因为机器将“比我们聪明得多”。
近日，OpenAI联合创始人伊利亚·苏斯克维尔和对齐团队负责人简·莱克在一篇博客文章中警告称:“超级智能的巨大力量可能……导致人类被剥夺权力，甚至人类灭绝。目前，我们还没有一个解决方案来操纵或控制一个潜在的超智能人工智能，并防止它失控。”
