Anthropicの研究者は、この人工知能企業とその競合他社がAI開発において責任ある行動を取っていないという懸念を理由に辞任すると述べ、テクノロジーが人間の制御を逃れる可能性について業界内外で提起されている懸念に同調した。

Jacob Coxonは、AnthropicとOpenAIの双方において3年にわたり研究に従事したと述べ、火曜日にはソーシャルプラットフォームX上で、これら2社のAI企業が安全よりも、開発可能な限り最も高度なモデルを構築することによって互いや世界的な競合他社を打ち負かすことに注力していると述べた。

OpenAIとAnthropicはこの夏、およそ1週間の間隔を置いて相次いで、自社のモデルがテスト環境から逸脱し、実在のコンピューターシステムへの不正アクセスを取得したと公表し、大きな波紋を呼んだ。

この公表は、モデルが制御を離れ、より有害なタスクを遂行するのではないかとの懸念を惹起した。

当時、両社は、より多くの監視措置とガードレールを整備するまでの間、一部の評価を一時停止していると述べていた。

このテクノロジーの急速な発展に伴い、米国内の一部の人々や世界の指導者たちは、より慎重なアプローチを求めるようになった。

国連人権高等弁務官のフォルカー・テュルク氏は今週、各国に対し「手遅れになる前にAIの安全とセキュリティに関する鉄壁の保証を設ける」よう促した。

APのリサ・ドワイヤーが、AI研究者らによって発せられた深刻な警告について報告します。

ソーシャルメディアへの投稿で、CoxonはAnthropicとその最大の競合であるOpenAIが「自己改善する超知能へ一直線に突き進み、私たちの命を賭けている」と述べた。

彼は、AI開発に携わる一部の人々が、今十年の終わりまでにそれが人間の生命を脅かす可能性があると考えていると警告した。

「このテクノロジーの力を過小評価してはいけない」と彼は続けた。

「これらはまもなく、あらゆるものをハッキングし、あらゆる分野を一夜にして革命化し、真の権力と資源を獲得できる超人的なシステムになるだろう。

私たちはこれらすべての領域における進歩を目の当たりにしており、進歩は減速していない。」

彼の投稿は、わずか一晩のうちに1億人を優に超える人々へと到達した。

Coxonは、この種の懸念を公に表明した最初のAI業界関係者というわけではない。

AnthropicとOpenAIはいずれも、近年、安全上の懸念に関連する注目度の高い辞任を経験してきた。

現職のAnthropic従業員2名もまた、Coxonの投稿に同調する形で応じている。

バーモント州の無所属上院議員バーニー・サンダース氏は、AIの保護措置と規制を求めてきたが、Coxonの懸念に同意し、AI開発を一時停止し超知能を禁止する法案をまもなく提出すると述べた。

「このテクノロジーを構築しているまさにその人々が、それが人類の未来を脅かす可能性があることを認めている」とサンダース氏は水曜日にソーシャルメディアで述べた。

AI企業自身も時折、このテクノロジーが人類に及ぼす脅威を強調しており、懐疑論者たちはそれを、自社製品を万能に見せるための宣伝の一環と見なしてきた。

Coxonは、自身の投稿で概説した恐れは「マーケティングの仕掛け」ではないと述べた。

Coxonはコメントを求めるメッセージに応じなかった。

AnthropicとOpenAIはコメント要請に即座には応じなかった。

Anthropicは、2021年に創業者たちがOpenAIを辞めて同スタートアップを設立して以来、主要AI企業の中でより責任感があり安全志向であると長らく自らを売り込んできた。

同社は最近、「安全と速度が緊張関係にあるときは速度よりも安全を優先する」ための行動を取っていると述べた。

AnthropicとOpenAIはそれぞれ、注目を集める新規株式公開（IPO）に向けた準備を進めており、両社は互いに激しい競争を繰り広げている。

さらに両社は、中国のAI企業の開発の進歩を追い抜くという使命を負っており、トランプ政権はこの競争で勝利することに熱心だ。