AnthropicのClaudeは、同社が次世代の、より高度な知能を備えたモデルを開発する上で助力となっていると、このAI研究所は木曜日の発表で言明した。

ClaudeはAnthropicのモデル研究開発の26%を主導しており、これは人間の監督下にありながら、「高レベルなプロンプトからエンドツーエンドで」ほとんどのタスクを完遂し得ることを意味すると同社は述べた。

このモデルは未だ完全に自律的に稼働しているわけではない。

にもかかわらず、同社の研究開発のおよそ90%はClaudeとの「協働」によって遂行されており、このことは、同モデルが「人間の綿密な指示の下で作業の大部分」を担い得ることを意味すると、Anthropicは述べた。

本発表は、AnthropicのCEOたるダリオ・アモデイ氏が主導する形で、AI界の一部の主要人物らが安全上の懸念を理由に技術開発の減速を呼びかける中で行われたものである。

AIの開発ペースを検討するにあたり、同社はブログ投稿において、「フロンティアラボが把握している事柄と一般公众が把握している事柄との間に生じる隔たりを最小限に抑止すべく、あらゆる可能な措置を講じるべきである」と述べた。

「これはすなわち、AIの発展をより精緻に測定し、それを公に報告し、かかる情報をいかに活用するかについて社会が決定を下す機会を付与することを意味する。」

同社は、モデルが自らの開発を加速させることが「人間がこれらのシステムを理解し、制御することをより困難にする」可能性を孕んでいると述べた。

これらの指標を共有することにより、主要なAIラボが再帰的自己改善——すなわちモデルが自律的に後継モデルを構築する能力——にどれほど接近しつつあるかを、より精緻に把握できるようになる可能性があると主張した。

Anthropicはさらに、他のAI開発者に対しても同様の指標を定期的に共有するよう促すとともに、経時的な、ひいては潜在的にはラボ間での比較を可能ならしめるべく、公的な方法論の採用を奨励した。

Anthropicの開示からは、同社が再帰的自己改善の達成にどれほど接近していると見なしているかは判然としなかったが、Claudeが研究開発に寄与する割合が加速度的に増大している事実は注目に値する。

Claudeが「主導」する、すなわち人間の監督下に置かれつつもその作業の大部分を遂行する案件の割合は、2月には皆無であった。

それから6か月後には研究開発作業の4分の1を主導するに至り、8月にその水準に達したのである。

同社はさらに、導入済みのエージェント監督措置の詳細を開示し、8月時点で約3万のエージェントが研究およびエンジニアリング業務に従事していると指摘した。

同社によれば、当該監督措置は、エージェントによる不正行為が監視システムによっていかなる頻度で検出されるかを検証する上で極めて重要であるという。

Anthropicは最近、安全への取り組みを監視すべく、社内に常駐する外部の第三者評価者を設置することを約束した。

先週、Anthropicの研究者が、この技術が人類にもたらす脅威に関し深刻な警告を遺して辞任したことが、AI安全性をめぐる昨今の対話の多くを端緒づけた。

アモデイ氏、OpenAIのCEOたるサム・アルトマン氏、イーロン・マスク氏、その他の技術指導者たちはその後、開発の減速という構想を支持するに至っているが、他の技術指導者たちおよびドナルド・トランプ大統領はこれに反対している。