【主持人语：刘永谋（中国人民大学吴玉章讲席教授）】近年来，以大模型为代表的AI技术发展迅猛，掀起一波席卷全球的AI发展热潮。关注AI发展状况的人不限于AI的研发者、推广者和AI发展的评论者、人文社科研究者，更包括深感生活将被AI深刻影响的普通公众。
未来几十年，通用人工智能可能拥有在许多关键任务上超越人类的能力，如果没有相应的措施进行制约，通用人工智能系统有可能学会追求与人类利益或偏好相冲突（即非对齐）的目标，部署未对齐的通用人工智能系统将会不可逆转地破坏既有社会规则和道德约束，造成失控的严重后果。
OpenAI首席科学家及“超级对齐”团队负责人于近期相继宣布辞职，引发人们对于通用人工智能安全性的关切。如何迎接AGI时代？ 如何预测和防范风险？第一财经记者于近期采访了位于美国硅谷的科学家、投资人及创业者，听听他们的看法。
【编者按】在过去的2023年，以ChatGPT为代表的大语言模型集中爆发，让各界看到人工智能全新的可能性，期冀与担忧并存。为了防止AI发展脱轨，“对齐”概念又重新获得众多拥趸。然而，何为“对齐”？“对齐”能实现吗？它又是否必需呢？
记者 肖余林编辑 高宇雷OpenAI公司与它的大模型产品ChatGPT最大的共同点是什么？人们知道它们每天发生了什么，但是不知道是如何发生的。我们使用 AI 大模型，惊喜于它给出的每一个回复，但还没有谁弄清楚 AI 的智能是如何起作用的。
布莱恩•克里斯在其著作《人机对齐》中，为我们描绘了一个与日俱增的现代困境。随着人工智能技术的迅猛发展，我们好似置身于一部现代版的“魔法师学徒”的故事中。如同初出茅庐的巫师，我们召唤出强大而不可知的力量——人工智能。我们给它下命令，期望它既能自主运作又能绝对服从。
来源：【华声在线】华声在线6月11日讯(记者 黄煌 ) 如今的“机器学习”系统已具备非凡能力，能够在各种场合代替我们看和听，并代表我们做决定。但随着机器学习飞速发展，人们的担忧也在与日俱增。如果我们训练的人工智能（AI）做的事情与我们真正的目的不符，就会引发潜在的风险和伦理问题。
