人工智慧實驗室 Anthropic 週四在公告中表示，其 Claude 正在協助公司開發該模型更聰明的下一版本。

Claude 目前負責主導 Anthropic 26% 的模型研發工作；公司指出，這表示它能在人類監督下，「從高階提示端到端」完成大多數指定任務。

然而，該模型尚未完全自主運作。

然而，公司約 90% 的研發工作是在與 Claude「協作」下完成；

Anthropic 表示，這意味著該模型可在人類密切指導下完成「大量工作」。

這項公告發布之際，若干 AI 領域的領軍人物——在很大程度上由 Anthropic 執行長 Dario Amodei 帶頭——正出於安全方面的疑慮，呼籲放緩該技術的發展步伐。

在公司領導人權衡 AI 發展步調之際，該公司於一篇部落格文章中表示：「我們應竭盡所能，縮小前沿實驗室所知與公眾所知之間的落差。」

「這代表我們必須更妥善地衡量 AI 的發展、公開報告相關情況，並讓社會有機會決定如何運用這些資訊。」

該公司表示，模型加速自身發展，可能導致「人類更難理解或控制這些系統」。

它主張，分享這些指標有助於人們更了解領先 AI 實驗室距離達成遞迴自我改進還有多近；所謂遞迴自我改進，是指模型能自主打造其後繼版本。

Anthropic 亦敦促其他 AI 開發者定期分享類似指標，並鼓勵採用公開方法論，使這些數字得以隨時間比較，甚至可能在不同實驗室之間比較。

根據 Anthropic 的揭露，該公司認為自身距離實現遞迴自我改進有多近，仍不明朗；然而，Claude 對研發日益增加的貢獻，其速度值得注意。

Claude「主導」——即在仍受人類監督下大量完成——的工作占比在 2 月時為零。

六個月後，它已主導四分之一的研發工作，並在 8 月達到這項基準。

該公司亦披露其現行代理監督措施的細節，指出截至8月，約有30,000個代理正從事研究與工程工作。

公司表示，這些監督措施對於了解監測系統多常偵測到代理不當行為至關重要。

Anthropic近日承諾設置外部第三方評估人員，他們將進駐公司內部，監督安全相關工作。

Anthropic 一名研究人員上週辭職時，嚴厲警告這項技術對人類構成的威脅，引發了近來關於 AI 安全的大量討論。

此後，Amodei、OpenAI 執行長 Sam Altman、Elon Musk 和其他科技領袖都支持放慢發展的想法，但其他科技領袖與美國總統 Donald Trump 則持反對立場。