Anthropic 在週四的公告中說，它的模型 Claude 正在幫公司做出更聰明的下一個版本。

公司說，Claude 現在負責大約 26% 的模型研發工作。

它可以在人類監督下完成大多數指定任務。

但它還沒有完全自己運作。

Anthropic 說，大約 90% 的研發工作是在和 Claude 合作下完成。

這表示很多工作是在人類密切指導下完成。

這項公告發布的時候，一些 AI 領導人正因為安全問題呼籲放慢技術發展。

其中主要的一位是 Anthropic 執行長 Dario Amodei。

Anthropic 在部落格文章中主張，應該盡量縮小前沿實驗室知道的事和公眾知道的事之間的差距。

公司認為，這表示要更好地衡量 AI 發展，要公開報告，也要讓社會有機會決定怎麼使用這些資訊。

公司也警告，模型加速自己的發展，可能讓人類更難理解或控制這些系統。

Anthropic 呼籲其他開發者定期分享類似的指標。

它也鼓勵大家採用公開的方法，這樣數字就能隨時間比較。

公司沒有說自己距離遞迴自我改進還有多近。

但它指出，Claude 負責的工作占比在 2 月時是零，六個月後已達四分之一。

公司也說，截至 8 月，大約有 30,000 個代理在做研究和工程工作。

公司還承諾，會讓外部第三方評估人員進駐，監督安全相關工作。