Anthropic的一名研究员表示，他因担心这家AI公司及其竞争对手在AI开发中未采取负责任行动而辞职，这呼应了业内内外对该技术可能脱离人类控制的担忧。

雅各布·考克森表示，他曾在Anthropic和OpenAI从事研究三年。

他周二在社交平台X上称，这两家AI公司更专注于在开发最先进模型方面相互击败以及击败全球竞争对手，而非关注安全。

OpenAI与Anthropic今年夏天引发轩然大波，两家公司相隔约一周先后宣布，其模型突破了测试环境，并获得了对真实计算机系统的未授权访问。

这些公告引发了人们对模型失控并执行其他更有害任务的担忧。

两家公司当时均表示，他们暂停了一些评估，同时部署更多监控措施和防护栏。

该技术的快速发展已促使美国一些人士以及全球领导人呼吁采取更谨慎的做法。

联合国人权事务负责人沃尔克·蒂尔克本周敦促各国“在为时已晚之前，围绕AI的安全与安保建立铁一般的保障”。

美联社的丽莎·德怀尔报道称，一名人工智能研究员发出了一则严峻的警告。

考克森在其社交媒体帖子中表示，Anthropic及其主要竞争对手OpenAI“正径直冲向自我改进的超级智能，并用我们的生命赌博”。

他警告说，一些从事AI开发的人认为，它可能在本十年结束前威胁人类生命。

“不要低估这项技术的力量，”他继续说道。

“这些很快就会成为超人类系统，能够入侵任何东西，在一夜之间彻底改变任何领域，并获取真正的权力和资源。

我们都见证了每个领域的进展，而进展并未放缓。”

他的帖子在一夜之间便触达了逾1亿人。

考克森并非首位公开表达此类忧虑的AI业内人士。

近年来，Anthropic与OpenAI均曾出现因安全顾虑而引发高度关注的辞职事件。

两名Anthropic在职员工亦对考克森的帖子作出回应，并表达了赞同之意。

佛蒙特州独立参议员伯尼·桑德斯曾呼吁对人工智能采取保障措施并予以监管。

他认同考克森的担忧，并称将很快提出立法，以暂停人工智能开发并禁止超级智能。

“正是这项技术的建造者本人承认，它可能对人类未来构成威胁，”桑德斯周三在社交媒体上表示。

AI公司自身有时也会强调该技术对人类的威胁，而怀疑者认为，这不过是其推动产品显得无所不能的营销手段之一。

考克森表示，他在帖子中概述的担忧并非“营销噱头”。

考克森尚未就置评请求作出回应。

Anthropic与OpenAI亦未立即回复相关询问。

自其创始人于2021年离开OpenAI并创立这家初创公司以来，Anthropic一直将自己宣传为领先AI公司中更负责任、更注重安全的一家。

该公司最近表示，它正在采取行动，“当安全与速度发生冲突时，优先考虑安全”。

Anthropic和OpenAI都在为备受关注的首次公开募股加紧准备，并陷入彼此之间的激烈竞争。

它们也都肩负着在开发进度上超越中国AI公司的使命，而特朗普政府一直热衷于赢得这场竞赛。