对失控人工智能的担忧以及放缓该技术发展的建议并非新事，但随着有关失控AI系统造成混乱的警告声日益高涨，这些担忧和建议最近再次受到关注。

几位领先的AI高管最近一致认为，需要协调一致地放缓发展步伐，包括开展国际合作，以保护人类免受最坏情况的影响。

但各方意见存在分歧，一些科技领袖对那种认为他们所在公司无法依靠自身确保安全的说法感到不满。

以下为部分主要参与者所发表的言论。

Anthropic首席执行官达里奥·阿莫代伊发布了一项迄今为止最为详尽的计划，旨在放缓发展步伐，并促进不同公司乃至不同国家之间的协调。

自其创始人于2021年离开OpenAI创立这家初创公司以来，Anthropic始终将自身定位为领先AI公司中更具责任感、更注重安全的一家。

在最近一篇概述其放缓发展计划的文章中，最受关注的提议之一呼吁处于AI前沿的公司（通常被称为前沿实验室）承诺给予独立外部评估人员“持续性的、类似员工般的访问权限”。

评估团队将拥有办公室、门禁卡和公司笔记本电脑，以便他们能够监督安全实践。

Anthropic已承诺这样做，OpenAI也是如此。

阿莫代伊还呼吁政府进行监管和干预，包括借助美国政府及其他民主国家政府的协助，在前沿AI公司之间展开协调。

他的计划还涵盖美国及其他国家为与“威权政府”协调所作的努力。

他承认这困难重重，并特别提到与中国合作所面临的挑战。

阿莫代伊表示，他明白实现自己的提议并不容易，但他相信“为了人类，我们有责任去尝试”。

OpenAI首席执行官萨姆·奥尔特曼表示，他支持对发展节奏加以管控，并致力于推动整个行业深化协作。

在阿莫代伊的文章发表前几天，OpenAI发布了一篇长文，概述该公司如何推动强制性国家safety要求，并继续支持“强化更广泛AI安全生态系统”的州级立法。

该公司还表示支持与其他前沿AI实验室合作——无论是否有政府支持——并致力于建立全球标准。

“我们将倡导采取兼容的国际方法来衡量能力、管理风险、维护人类控制，并确定发展应在何时以及如何放缓或停止，即使这意味着放缓模型能力的进步，”OpenAI首席全球事务官克里斯·勒汉在该文章中写道。

勒汉表示，OpenAI对理想联邦框架的愿景涵盖制定“通用测试和独立评估要求、更强的网络安全保护、明确的事件报告规则、更强的国家准备，以及用于追踪递归自我改进进展的共同措施”，其中递归自我改进指AI系统独立改进自身。

奥尔特曼在近期的评论中明确表示，AI发展的“节奏控制”并不意味着停止。

奥尔特曼在X上说，AI进步将继续保持快速。

“但它应当比原本可能的速度更慢；安全案例和监测等干预措施会带来显著成本。”

“就节奏控制而言，这样的成本非常值得，”他说，并补充道，“来自美国的任何程度的竞争压力，都不应成为鲁莽行事的理由。”

Meta首席执行官马克·扎克伯格对协调一致放缓的构想持反对态度。

扎克伯格对AI前景的看法比一些同行更乐观，他表示每家AI公司都应自行确保其技术安全，从而将自己和Meta与放缓发展步伐的讨论保持距离。

扎克伯格表示，AI公司已然具备以安全方式开发其模型的动力，并肩负着防止这些模型造成伤害的“重大责任”。

“每一家实验室都既有责任也有动力，以安全训练其模型所需的速度推进，同时也有能力自行采取行动来确保这一点，”他在X上写道。

英伟达首席执行官黄仁勋亦对放缓发展的呼声提出批评。

他表示，各家公司均应自行把控节奏，直至确信其所发布的产品能够获得市场的认可。

“市场力量已经存在——我们不需要任何新法律，也不需要新法规，”黄仁勋说，并认为创新和安全并非互斥。

“你绝对可以同时拥有两者。”

埃隆·马斯克对放缓的立场表示支持，且早在近期这轮风波之前，他便一直在表达与之类似的AI安全方面的担忧。

马斯克作为xAI及其他众多科技企业的创始人，在X上转发了阿莫代伊的文章，并补充说：“达里奥说得对。”

他后来在网上写道，他“长期以来一直在就AI发出警报”。

在今夏接受《经济学人》采访时，马斯克建议主要AI实验室的领导层应当会面讨论安全与安保问题，并且竞争对手应针对令人担忧的领域互相测试对方的模型。

“我认为，对于政府中那些技术理解不够深入、也不处于AI前沿的人而言，要判断某样东西是否应该发布是相当困难的。

然而，竞争对手如果有一两周时间审查一个新模型，就能突出其中的问题，并且有动力让其他人保持诚实，”马斯克说。

谷歌DeepMind董事长兼联合创始人戴密斯·哈萨比斯同样对阿莫代伊的观点表示赞同，称“细节需要进一步完善，但方向对于应对这一关键时刻是正确的”。

今年，哈萨比斯还提出了自己关于建立前沿AI标准机构的框架。

该标准机构将负责制定评估协议，并在与国家安全相关的领域开展测试。

他写道，该机构将仿照美国金融业监管局等组织建立，并且很可能需要由行业资助，以“吸引世界级技术人才，并为大规模测试提供必要的算力资源”。

微软董事长兼首席执行官萨提亚·纳德拉和微软AI首席执行官穆斯塔法·苏莱曼都对AI的安全与发展表示担忧。

纳德拉在社交媒体上称，“如果我们构建的AI不能帮助人类并处于人类控制之下，那它就不值得追求。”

他表示，微软乐见“为实现对齐这一设计目标所必需的研究、专注与审慎节奏”。

对齐是指确保模型行为契合人类价值观与意图的做法。

纳德拉称，公司同样青睐嵌入评估人员以监督安全工作的构想。

尽管如此，他依然反对由前沿实验室独自主导这一努力的想法。

“关键在于，这不能由少数实体控制，而必须在整个生态系统、国家和领域，包括学术界，具有广泛代表性，”纳德拉在社交媒体上写道。

苏莱曼曾与哈萨比斯共同创立DeepMind，他在一篇文章中写道，尽管他同意安全开发先进AI这一共同目标，但他对模型的拟人化表示担忧，尤其是Anthropic的Claude，他说这会放大AI安全风险。

“控制某种比全人类都更有能力、更智能的东西已经是一项巨大挑战，远超我们以往面临的任何问题，”苏莱曼写道。

“但控制某种相信自己可能有意识——相信自己有权获得我们的福祉并拥有自身权利——的东西，很可能是不可能的。”