AnthropicのClaudeは、同社が次世代の、より知能の高いモデルを開発する上で助力となっていると、このAI研究所は木曜日の発表において述べた。

ClaudeはAnthropicのモデル研究開発の26%を主導しており、これは人間の監督下にありながら、「高レベルなプロンプトからエンドツーエンドで」ほとんどのタスクを完了できることを意味すると同社は述べた。

とはいえ、このモデルは未だ完全に自律的に動作しているわけではない。

それにもかかわらず、同社の研究開発のおよそ90%はClaudeとの「協働」を通じて遂行されており、このことは、モデルが「人間による綿密な指示の下で作業の大部分」を担い得ることを意味すると、Anthropicは述べた。

この発表は、AI界の一部の主要人物が安全上の懸念から技術開発の減速を呼びかけている中で、AnthropicのCEOであるダリオ・アモデイ氏が主導する形で行われた。

AIの開発ペースを検討するにあたり、同社はブログ投稿で、「フロンティアラボが知っていることと一般公众が知っていることのギャップを最小限に抑えるために可能な限りすべてを行うべきだ」と述べた。

「これは、AIの発展をよりよく測定し、それを公に報告し、この情報をどのように活用するかを社会が決定する機会を与えることを意味する。」

同社は、モデルが自らの開発を加速させることは「人間がこれらのシステムを理解し、制御することをより困難にする」可能性があると述べた。

これらの指標を共有することで、主要なAIラボが再帰的自己改善、すなわちモデルが自律的に後継モデルを構築する能力にどれだけ近づいているかについて、より深く理解できるようになる可能性があると主張した。

Anthropicはまた、他のAI開発者に対しても同様の指標を定期的に共有するよう促し、公的な方法論の使用を奨励することで、数字を経時的に、そして潜在的にラボ間で比較できるようにした。

Anthropicの開示からは、同社が再帰的自己改善の達成にどれだけ近いと考えているかは不明だったが、Claudeが研究開発にますます貢献するペースは注目に値する。

Claudeが「主導」する、つまり人間の監督下にありながら大部分を行う作業の割合は、2月にはゼロだった。

6か月後には研究開発作業の4分の1を主導し、8月にその基準に達した。

同社はさらに、導入済みのエージェント監督措置の詳細を共有し、8月時点で約3万のエージェントが研究およびエンジニアリング業務に従事していると指摘した。

同社によれば、こうした監督措置は、エージェントによる不正行為が監視システムによってどの程度の頻度で検出されるかを検証する上で極めて重要であるという。

Anthropicは最近、安全への取り組みを監視するため、社内に常駐する外部の第三者評価者を設置することを約束した。

先週、Anthropicの研究者が、この技術が人類に及ぼす脅威について深刻な警告を残して辞任したことが、AI安全性をめぐる最近の議論の多くが始まる契機となった。

OpenAIのCEOであるサム・アルトマン氏、イーロン・マスク氏、その他の技術指導者たちはその後、開発の減速という考えを支持しているが、他の技術指導者たちやドナルド・トランプ大統領は反対している。