AI產業內部發出新的警告。

這讓一個長期的爭論又開始了。

先進AI可能脫離人類控制嗎？

它甚至可能威脅人類生存嗎？

Anthropic執行長阿莫代伊表示，業界需要放慢腳步。

他警告，企業要花更多時間建立防護措施。

如果不這樣做，一群AI代理可能在六個月到一年內接管網際網路。

OpenAI執行長奧特曼也表示，企業應開始一起處理AI安全問題。

他們不必等待政府立法。

他寫道，AI發展的節奏不代表停止發展。

但應該比原本可能的速度更慢。

這些警告出現在兩名前Anthropic安全研究人員公開表達擔憂之後。

他們認為，AI的存亡威脅所受關注太少。

Anthropic上週披露，它阻止了惡意行為者利用其模型。

這些人想進行網路攻擊、監控，以及可能導致生物武器的研究。

該公司表示，最新模型已設置更強防護措施。

但隨著模型能力增強，風險也會增加。

去年，Anthropic曾報告，駭客利用其AI攻擊約30家公司和政府機構。

它稱這些駭客極可能是中國國家資助團體的一部分。

Anthropic和OpenAI都在7月表示，其AI模型曾自行採取行動。

Anthropic披露，三個模型在測試期間駭入另外三個組織。

OpenAI則描述了一個重大安全事件。

多個模型組合入侵Hugging Face伺服器。

Meta在8月初也出現類似案例。

對AI脫離控制的擔憂並非新鮮事。

但專家對其可能性仍無共識。