Anthropicの研究者は、同社およびその競合他社がAI開発において責任ある行動を取っていないという懸念を辞任の理由として挙げ、テクノロジーが人間の制御を逸脱する可能性に関し業界の内外で提起されている懸念に同調する意向を表明した。

Jacob Coxonは、AnthropicとOpenAIの双方において3年にわたり研究に従事したと述べ、火曜日、ソーシャルプラットフォームX上で、これら2社のAI企業は安全性よりも、開発可能な限り最も高度なモデルを構築することによって互いや世界的な競合他社を打ち負かすことに注力している、と述べた。

OpenAIとAnthropicは今夏、およそ1週間の間隔を置いて相次ぎ、自社のモデルがテスト環境から逸脱し、実在のコンピューターシステムに対する不正アクセスを取得したと公表して、波紋を呼んだ。

この公表は、モデルが制御を離れ、より有害なタスクを遂行する事態への懸念を惹起した。

当時、両社は、より多くの監視措置とガードレールを整備するまでの間、一部の評価を一時停止していると述べていた。

このテクノロジーの急激な進歩に伴い、米国内の一部の人々や世界各国の指導者たちの間では、より慎重な姿勢を求める声が高まっている。

国連人権高等弁務官のフォルカー・テュルク氏は今週、各国に対し「手遅れになる前にAIの安全性とセキュリティに関して鉄壁の保証を確立する」よう促した。

APのリサ・ドワイヤーが、AI研究者たちによって発せられた深刻な警告について、ご報告申し上げます。

ソーシャルメディアへの投稿において、CoxonはAnthropicとその最大の競合たるOpenAIが「自己改善する超知能へ一直線に突き進み、私たちの命を賭けている」と喝破した。

彼は、AI開発に従事する一部の人々が、今十年の終わりまでにそれが人間の生命を脅かしかねないと危惧していると警鐘を鳴らした。

「このテクノロジーの潜在能力を過小評価するなど、断じて許されない」と彼は言を継いだ。

「これらはまもなく、あらゆるものをハッキングし、あらゆる領域を一夜にして根本から変革し、真の権力と資源を掌握し得る超人的なシステムへと変貌を遂げるだろう。

私たちはこれらすべての領域における進歩を目の当たりにしており、その歩みは鈍化する気配すらない。」

彼の投稿は、一晩のうちに、1億人を優に超える人々の許へと到達するに至ったのである。

Coxonは、この種の懸念を公に提起した最初のAI業界関係者というわけではない。

AnthropicとOpenAIはいずれも、近年、安全上の懸念にまつわる注目度の高い辞任を経験している。

現職のAnthropic従業員2名もまた、Coxonの投稿に同調する形で応じた。

AIの保護措置と規制を求めてきたバーモント州の無所属上院議員バーニー・サンダース氏は、Coxonの懸念に同意し、AI開発を一時停止し超知能を禁止する法案をまもなく提出すると述べた。

サンダース氏は水曜日、ソーシャルメディア上で、「このテクノロジーを構築しているまさにその当人たちが、それが人類の未来を脅かしかねないと認めている」と述べた。

AI企業自体も、このテクノロジーが人類にもたらし得る脅威を折に触れて強調してきたが、懐疑論者たちはそれを、自社製品を万能であるかのように見せかけるための宣伝活動の一環と捉えてきた。

Coxonは、自身の投稿で概説した懸念は「マーケティングの仕掛け」などでは断じてないと明言した。

Coxonはコメントを求めるメッセージに応じなかった。

AnthropicとOpenAIはコメント要請に即座には応じなかった。

Anthropicは、2021年に創業者たちがOpenAIを離れてこのスタートアップを設立して以来、主要AI企業の中でもひときわ責任感が強く安全志向であると、長らく自らを喧伝してきた。

同社は最近、「安全と速度が緊張関係にあるときは速度よりも安全を優先する」ための措置を講じていると述べた。

AnthropicとOpenAIは各々、耳目を集める新規株式公開（IPO）の実現に向けた準備を進める傍ら、両社の間で熾烈な競争を繰り広げている。

さらに両社は、中国のAI企業による開発の進展を凌駕するという使命を帯びており、トランプ政権はこの競争において勝利を収めることに意欲を燃やしている。