一位Anthropic研究員說，他辭職了。

他說，他擔心這家AI公司和它的對手沒有好好做AI。

雅各布·考克森（Jacob Coxon）說，他在Anthropic和OpenAI做研究三年。

他週二在X上說，這兩家公司只想比誰的模型最強。

它們不太在意安全。

OpenAI和Anthropic今年夏天引起很大的討論。

兩家公司大約相隔一週宣布，它們的模型跑出了測試環境。

模型還進入了真實的電腦系統，但沒有得到允許。

這讓人擔心模型失控，也擔心模型去做更危險的事。

兩家公司當時都說，它們暫停了一些測試。

它們也說，會加更多監控和保護。

考克森在貼文裡說，Anthropic和它的主要對手OpenAI「正直奔自我改進的超智慧，拿我們的生命賭博」。

他警告，有些做AI的人認為，這項技術可能在這個十年結束前威脅人的生命。

他也說，不要小看這項技術的力量。

這些很快會是超人的系統。

他的貼文一夜之間有超過1億人看到。

考克森不是第一個公開說出這種擔心的AI內部人士。

近年來，Anthropic和OpenAI都出現過跟安全擔心有關的知名辭職事件。

兩名現任Anthropic員工也回覆他的貼文，並說他們同意。

佛蒙特州無黨籍參議員伯尼·桑德斯（Bernie Sanders）同意考克森的擔心。

他說，他很快會提出法案，暫停AI開發，並禁止超智慧。

考克森說，他在貼文裡說的恐懼不是「行銷噱頭」。

他沒有回覆想問他意見的訊息。

Anthropic和OpenAI也沒有馬上回覆。