一位Anthropic研究員表示，他辭職是因為擔心這家人工智慧公司及其競爭對手在AI開發上未採取負責任的行動，這呼應了業界內外對該技術可能脫離人類控制的擔憂。

雅各布·考克森（Jacob Coxon）表示，他曾在Anthropic和OpenAI從事研究三年。

他週二在社交平台X上表示，這兩家AI公司更專注於在開發盡可能最先進的模型上互相較勁、並與全球競爭對手競爭，而非專注於安全。

OpenAI與Anthropic今年夏天掀起軒然大波，因為兩家公司相隔約一週先後宣布，其模型已突破測試環境，並在未經授權下存取了真實的電腦系統。

這些公告引發了人們對模型可能失控、進而執行其他更具危害性任務的擔憂。

兩家公司當時均表示，他們正暫停部分評估，同時採取更多監控措施與防護機制。

該技術的迅速發展，已促使美國部分人士及全球領袖呼籲採取更審慎的做法。

聯合國人權事務高級專員福爾克爾·蒂爾克（Volker Türk）本週敦促各國「在為時已晚之前，對AI的安全與保障建立鐵一般的保證」。

美聯社的麗莎·德懷爾（Lisa Dwyer）報導了一位人工智慧研究員所發出的嚴厲警告。

考克森在社群媒體貼文中表示，Anthropic及其主要競爭對手OpenAI「正直奔自我改進的超智慧，拿我們的生命賭博」。

他警告，部分從事AI開發的人士認為，這項技術可能在這十年結束前對人類生命構成威脅。

「不要低估這項技術的力量，」他繼續說道。

「這些很快將成為超人系統，能駭入任何事物、在一夜之間徹底改變任何領域，並獲取真正的權力與資源。

我們都見證了每個領域的進展，而進展並未放緩。」

他的貼文於一夜之間觸及逾1億人。

考克森並非首位公開表達此類憂慮的AI業界內部人士。

近年來，Anthropic與OpenAI均曾發生因安全疑慮而引發的高調辭職事件。

兩名Anthropic現任員工亦對考克森的貼文作出回應，並表達了認同。

佛蒙特州無黨籍參議員伯尼·桑德斯（Bernie Sanders）曾呼籲制定AI保障措施與監管，他同意考克森的擔憂，並表示將很快提出立法，暫停AI開發並禁止超智慧。

「建造這項技術的人自己都承認，它可能威脅人類的未來，」桑德斯週三在社群媒體上表示。

AI公司本身有時亦會強調該技術對人類構成的威脅，懷疑者則認為，這不過是讓自家產品顯得無所不能的宣傳手法之一。

考克森表示，他在貼文中概述的恐懼並非「行銷噱頭」。

考克森尚未回覆媒體就其置評所提出的詢問。

Anthropic與OpenAI亦未立即回應相關置評請求。

自其創辦人於2021年離開OpenAI並創立這家新創公司以來，Anthropic一直將自身定位為領先AI公司中更負責任、更重視安全的一家。

該公司最近表示，正採取行動「當安全與速度相衝突時，優先考慮安全」。

Anthropic和OpenAI都在加緊籌備備受矚目的首次公開募股（IPO），彼此之間陷入激烈競爭。

它們也各自肩負超越中國AI公司開發進度的使命，而川普政府一直熱衷於贏得這場競賽。