对失控人工智能的忧虑，以及吁请放缓该技术发展步伐的建言，并非什么新颖之论；然而，伴随着有关失控AI系统酿成混乱的警示声浪日趋高涨，这些忧虑与建言近来再度引发关注。

数位居于前沿的AI高管近期达成共识，认为有必要以协调一致的方式放缓发展节奏，其中包括开展国际合作，从而为人类构筑屏障，以抵御最为严峻的潜在后果。

然而，各方立场并非铁板一块，部分科技界领袖对于那种断言其麾下企业无力凭一己之力保障安全的论调颇为不满。

以下乃若干主要参与者言论之摘录。

Anthropic首席执行官达里奥·阿莫代伊揭橥了一项迄今最为详尽的方案，意在延缓发展节奏，并促成各企业、各国之间的协同。

自其创始人于2021年离开OpenAI创办这家初创企业以来，Anthropic始终将自身定位为领先AI企业中更具责任担当、更笃重安全的一家。

在近期一篇概述其放缓发展计划的文章中，最受瞩目的提议之一呼吁处于AI前沿的公司（通常被称为前沿实验室）承诺给予独立外部评估人员“持续性的、类似员工般的访问权限”。

评估团队将配备办公室、门禁卡和公司笔记本电脑，以便其监督安全实践。

Anthropic已承诺照此办理，OpenAI亦然。

阿莫代伊亦敦促政府予以监管与干预，涵盖在美国政府及其他民主国家政府襄助之下，于前沿AI企业之间展开协调。

他的计划亦涵盖美国及其他国家竭力与“威权政府”协调之举。

他承认此举殊为艰难，并特别提及争取与中国合作所面临的挑战。

阿莫代伊坦言，他深知践行自身倡议绝非坦途，但他笃信“为了人类，我们有责任去尝试”。

OpenAI首席执行官萨姆·奥尔特曼表示，其主张对发展节奏予以把控，并力促整个行业深化协作。

值阿莫代伊文章付梓前夕，OpenAI刊布鸿篇，胪陈该公司如何力推强制性国家safety要求，并持续襄助旨在“强化更广泛AI安全生态系统”的州级立法。

该公司复申明，愿与其余前沿AI实验室戮力协作——无论政府支持与否——且矢志于厘定全球标准。

“我们将倡导采取兼容并蓄的国际路径，以衡量能力、管控风险、维系人类控制，并厘定发展应于何时以及如何放缓或中止——即便这意味着要延缓模型能力的进步，”OpenAI首席全球事务官克里斯·勒汉在该文章中写道。

勒汉指出，OpenAI所构想的理想联邦框架涵盖以下要素：确立“通用测试与独立评估要求、更为强固的网络安全保障、明晰的事件报告规则、更充分的国家层面准备，以及用以追踪递归自我改进进展的共同措施”——所谓递归自我改进，即AI系统自主提升自身能力。

奥尔特曼在近期的评论中明确阐明，AI发展的“节奏控制”绝非意味着停滞。

奥尔特曼于X上表示，AI的进步仍将保持迅猛态势。

“然而，其步伐理应较原本可能达到的速度有所放缓；诸如安全论证与监测之类的干预举措，势必将带来不容小觑的成本。”

“就节奏控制而言，此种成本可谓物有所值，”他如是说道，并补充道，“来自美国的任何程度的竞争压力，皆不应沦为鲁莽行事的托词。”

Meta首席执行官马克·扎克伯格对协调一致放缓之构想持反对立场。

扎克伯格对AI前景所持的乐观态度，较之部分同行更为显著；他主张每一家AI企业均须独立自主地保障其技术之安全，以此将自身及Meta与那些呼吁放缓发展节奏的论调划清界限。

扎克伯格表示，AI公司业已具备以安全方式开发其模型的驱动力，并肩负着防止其造成伤害的“重大责任”。

“每一家实验室都负有责任与动力，以安全训练其模型所需的速度推进，同时亦具备采取自身行动以确保这一点的能力，”他在X上写道。

英伟达首席执行官黄仁勋亦对放缓发展之呼声予以抨击。

其表示，各企业均须自行把控节奏，直至确信其所发布之产品能够获得市场认可。

“市场力量已然就位——无需任何新的立法，亦无需新的监管规章，”黄仁勋表示，并主张创新与安全并非彼此排斥的对立面。

“两者兼得，绝非不可企及。”

埃隆·马斯克对放缓之举持支持态度，且远早于近期这轮风波便已屡屡表达过与之相类的AI安全隐忧。

作为xAI及诸多其他科技实体的缔造者，马斯克在X上转发了阿莫代伊的这篇文章，并附言道：“达里奥所言极是。”

他其后于网络平台撰文称，自己“长期以来始终在对AI敲响警钟”。

在今夏与《经济学人》的访谈中，马斯克建言，各主要AI实验室的掌舵者理应聚首磋商安全与安保议题，且竞争对手之间应就令人忧心的领域相互测试对方的模型。

“我笃信，对于政府内部那些既缺乏深厚技术素养、亦未跻身AI前沿的人而言，要判定某项成果是否应当发布，殊为困难。

然而，竞争对手若能有一两周时间审查一个新模型，便可凸显其中的问题，并且有动力促使其他人保持诚实，”马斯克说。

谷歌DeepMind董事长兼联合创始人戴密斯·哈萨比斯亦对阿莫代伊的立场表示附议，称“细节尚待进一步完善，但方向对于应对这一关键时刻而言是正确的”。

哈萨比斯今年还提出了自己关于建立前沿AI标准机构的框架。

该标准机构将肩负制定评估协议之责，并在与国家安全相关的领域开展测试。

该机构将仿照美国金融业监管局等组织建立，且很可能需要由行业资助，以“吸引世界级技术人才，并为大规模测试提供必要的算力资源”，他写道。

微软董事长兼首席执行官萨提亚·纳德拉与微软AI首席执行官穆斯塔法·苏莱曼，均就AI的安全保障及其发展路径流露出深切忧虑。

纳德拉于社交媒体上坦言，“倘若我们所构建的AI既无法裨益人类，又不受人类掌控，那么它便不值得为之求索。”

他宣称，微软乐见“为恰切实现对齐这一设计目标所必需的研究、专注与审慎节奏”。

所谓对齐，即确保模型行为契合人类价值观与意图的实践。

纳德拉表示，公司同样青睐嵌入评估人员以监督安全工作的构想。

然而，他依旧反对由前沿实验室独自把持这一努力的主张。

“至关重要的是，这绝不能由寥寥数家实体所掌控，而必须在整个生态系统、国家及领域——包括学术界在内——实现广泛代表性，”纳德拉于社交媒体上如是写道。

苏莱曼曾与哈萨比斯联袂创立DeepMind，他在一篇文章中写道，尽管他认同安全开发先进AI这一共同目标，但他对模型的拟人化倾向深表忧虑，尤其是Anthropic的Claude，他称此举将加剧AI安全风险。

“驾驭某种在能力与智能上均凌驾于全人类之上的存在，已然构成一项艰巨卓绝的挑战，其难度远超我们既往所面对的任何问题，”苏莱曼写道。

“然而，驾驭某种自认为可能拥有意识——自认为有权享有我们的福祉并享有自身权利——的存在，则极有可能是痴人说梦。”