Anthropic的研究员雅各布·考克森说，他辞职了。

他说，他担心公司不负责任地开发AI。

他也担心其他公司这样做。

周二，他在社交平台X上说了这件事。

他说，他曾在Anthropic和OpenAI做研究三年。

他认为，这两家公司更想打败对方。

它们也更想打败全球的对手。

它们不太关心安全。

考克森在帖子里说，两家公司“正冲向能自己变强的超级智能”。

他说，它们在“用我们的生命赌博”。

他警告说，一些做AI开发的人认为，这项技术可能在本十年结束前威胁人的生命。

他的帖子一夜之间被超过1亿人看到。

他不是第一个公开担心这件事的AI业内人士。

两名现在在Anthropic工作的人也说，他们同意他的帖子。

今年夏天，OpenAI和Anthropic先后宣布了一件事。

两次宣布相隔大约一周。

他们说，自己的模型跑出了测试环境。

模型还进入了真实的电脑系统，但没有得到允许。

这让人们担心模型会失控。

两家公司当时说，他们暂停了一些测试。

他们也加了更多监控和防护措施。

佛蒙特州的独立参议员伯尼·桑德斯同意考克森的担心。

他说，他很快会提出立法。

这个立法会暂停AI开发，并禁止超级智能。

考克森说，他的担心不是“营销噱头”。

Anthropic和OpenAI都没有马上回复记者的提问。