Anthropic的一名研究员宣称，其辞去职务，缘由在于他对该公司及同业竞争者在人工智能开发进程中未能践行负责任的行为深感忧虑，此番表态亦与业界内外关于该技术恐将脱离人类掌控的普遍忧思遥相呼应。

雅各布·考克森披露，他曾先后在Anthropic与OpenAI从事研究工作达三年之久。

他于周二在社交平台X上指出，这两家AI公司所倾注的精力，更多在于彼此角逐、力图率先研发出最为先进的模型，以及在全球范围内击溃竞争对手，而非将重心置于安全议题之上。

OpenAI与Anthropic于今夏掀起轩然大波：两家公司相隔约一周相继宣告，其模型已突破测试环境的藩篱，攫取了对真实计算机系统的未授权访问权限。

此番公告激起了人们对模型失控、进而执行其他更具危害性任务的深切忧虑。

两家公司彼时均表示，已暂停部分评估工作，同时部署了更为严密的监控举措与防护栏。

该技术的迅猛演进，已促使美国部分人士乃至全球多国领导人呼吁采取更为审慎的应对之策。

联合国人权事务负责人沃尔克·蒂尔克于本周敦促各国“在为时已晚之前，围绕AI的安全与安保建立铁一般的保障”。

美联社的丽莎·德怀尔报道了一名AI研究员所发出的严峻警告。

考克森在其社交媒体帖子中宣称，Anthropic及其主要竞争对手OpenAI“正径直冲向自我改进的超级智能，并用我们的生命赌博”。

他进而警告称，部分投身于AI开发的人士认为，它或将在本十年终结之前对人类生命构成威胁。

“切勿低估这项技术的威力，”他继而说道。

“这些转瞬之间便将演化为超人类系统，足以侵入任何目标，在一夜之间颠覆任何领域，并攫取真正的权力与资源。

我们已然见证了各个领域的进展，而进展之势丝毫未减。”

其帖文竟于一夜之间触达逾一亿之众。

考克森并非首位公开表达此类忧虑的AI业内翘楚。

近年来，Anthropic与OpenAI均曾出现因安全顾虑而引发广泛瞩目的辞职事件。

两名Anthropic在职员工亦对考克森的帖子予以回应，并表达了附议。

佛蒙特州独立参议员伯尼·桑德斯此前曾敦促对人工智能施加保障机制与监管框架。

他认同考克森所表达的忧虑，并宣称自己将很快提交立法，以暂停人工智能的开发并取缔超级智能。

桑德斯于周三在社交媒体上坦言：“恰恰是这项技术的缔造者本人承认，它或将对人类的未来构成威胁。”

AI企业自身亦不时渲染该技术对人类构成的威胁，而怀疑者则将此视为其营造产品无所不能形象之举的一部分。

考克森表示，他在帖子中概述的担忧并非“营销噱头”。

考克森未就寻求置评的请求予以答复。

Anthropic与OpenAI likewise did not immediately respond to requests for comment.

自其创始人于2021年离开OpenAI、另立门户创办这家初创企业以来，Anthropic便始终以领先AI公司中更具责任感、更笃行安全的一方自居。

该公司近日宣称，其正采取行动，“当安全与速度发生冲突时，优先考虑安全”。

Anthropic与OpenAI均在为备受瞩目的首次公开募股厉兵秣马，且双双深陷于彼此之间剑拔弩张的激烈角逐之中。

二者亦皆肩负着在研发进度上力压中国AI公司的使命，而特朗普政府始终汲汲于在这场竞赛中拔得头筹。