制御不能な人工知能への懸念や、その技術開発に歯止めをかけるべきだという提言は目新しいものではないが、凶暴なAIシステムが混乱を引き起こすという警告が強まる中、近年新たな関心を集めている。

複数の主要AI企業の幹部は最近、人類を最悪のシナリオから守るため、国際的な連携を含む協調的な減速が必要だという点で一致した。

しかし意見は割れており、一部のテックリーダーは自社だけで安全を確保できるという考えに反発している。

主要なプレイヤーたちによる発言をいくつか概観してみよう。

AnthropicのCEOであるダリオ・アモデイは、開発の遅延と企業や国家間の協調を促すための最も詳細な計画を提示した。

Anthropicは、2021年に創業者たちがOpenAIを退社してこのスタートアップを立ち上げて以来、主要AI企業の中でもより責任感が強く安全志向であると自らを位置づけてきた。

最近のエッセイで概説された彼の減速計画の中で最も広く注目を集めた提案の一つは、しばしばフロンティアラボと呼ばれるAIの最前線に立つ企業に対し、独立した外部評価者に「継続的な、従業員のようなアクセス」を与えることを約束させるというものである。

評価者チームはオフィス、アクセスバッジ、会社のラップトップを持ち、安全慣行を監視できるようにする。

Anthropicはこれを行うことを約束しており、OpenAIも同様だ。

アモデイはさらに、米国政府や他の民主主義国の政府の支援を受けたフロンティアAI企業間の協調を含め、政府の規制と介入も求めた。

彼の計画には、米国や他の国々が「権威主義政府」と協調する取り組みも含まれている。

彼はその難しさを認め、特に中国からの協力を得る上での課題を具体的に挙げた。

アモデイは、自身の提案を実現することが容易ならざるものであると承知しつつも、「人類のために試みる義務がある」と確信していると述べた。

OpenAIのCEOサム・アルトマンは、開発のペース配分と業界全体でのより一層の協力への移行を支持する声を上げている。

アモデイのエッセイが公表される数日前、OpenAIは、同社が義務的な国家安全性要件を推進し、「より広範なAI安全エコシステムを強化する」州法を引き続き支持していることを概説する長文を投稿した。

同社はまた、政府の支援の有無にかかわらず他のフロンティアAIラボと協力し、グローバル標準の構築に取り組むことへの支持も表明した。

OpenAIのチーフ・グローバル・アフェアーズ・オフィサー、クリス・レハーンは投稿でこう述べた。

「我々は、能力の測定、リスクの管理、人間による制御の維持、そして開発をいつどのように減速または停止すべきかの決定に対し、互換性のある国際的なアプローチを提唱する。

たとえそれがモデル能力の進歩を遅らせることになろうとも」。

レハーンによれば、OpenAIが思い描く理想的な連邦の枠組みには、「共通のテストと独立した評価要件、より強力なサイバーセキュリティ保護、明確なインシデント報告ルール、国家的備えの一層の強化、そして再帰的自己改善（AIシステムが自律的に自己改善する場合）の進捗を追跡するための共有指標」の開発が含まれる。

アルトマンは最近のコメントにおいて、AI開発の「ペース配分」は停止を意味するものではないと明確にしている。

AIの進歩は急速に続くだろうとアルトマンはXで述べた。

「しかしそれは、そうでなければあり得るよりも遅くなるべきだ。

安全ケースや監視のような介入には大きなコストがかかる」

「ペース配分はこのコストに十分見合うだろう」と彼は述べ、さらに「アメリカの競争圧力がいかなる量であろうとも、無謀さを正当化すべきではない」と付け加えた。

メタのCEOであるマーク・ザッカーバーグは、協調的減速という構想に対して異を唱えている。

AIの未来について同僚の一部よりも楽観的なビジョンを抱くザッカーバーグは、各AI企業は自社の技術が安全であることを独自に確保すべきだと述べ、自身とMetaを減速の議論から距離を置いた。

ザッカーバーグは、AI企業はすでに自社のモデルを安全な方法で開発する動機を持っており、危害を引き起こすのを防ぐために「重大な責任」を負っていると述べた。

「すべてのラボには、自社のモデルを安全に訓練するために必要なペースで進み、それが実現するように独自の行動を取る責任と動機がある」と彼はXに書いた。

NvidiaのCEOであるジェンスン・フアンもまた、減速を求める動きに対して批判を展開している。

彼はその代わりとして、各企業は市場が評価するものをリリースすることに自信を持てるようになるまで、自らのペースを調整すべきであると主張している。

「市場の力は既に存在している。新たな法律も新たな規制も必要としない」とフアンは述べ、イノベーションと安全は相反する概念ではないと主張した。

「両者を同時に実現することは間違いなく可能である」

イーロン・マスクはAI開発の減速を提唱する立場に賛同しており、昨今の一連の騒動のはるか以前から、AIの安全性に対する同様の懸念を公に表明していた。

xAIや他の多くのテックベンチャーの創業者であるマスクは、アモデイのエッセイをXでリポストし、「ダリオは正しい」と付け加えた。

彼は後に、自分は「長い間AIについて警鐘を鳴らしてきた」とオンラインで書いた。

今夏のエコノミストとのインタビューで、マスクは主要AIラボのリーダーたちが安全とセキュリティの問題について話し合うために会合すべきであり、競合他社は懸念分野について互いのモデルをテストすべきだと示唆した。

「AIの最前線を推進するほどの深い技術的理解を欠いた政府の誰かが、何かをリリースすべきかどうかを知るのは極めて難しいと私は思う。

しかし競合他社は、新しいモデルを1～2週間レビューする時間さえ与えられれば、問題を浮き彫りにし、他の者を誠実に保つ動機を持っている」とマスクは述べた。

Google DeepMindの会長兼共同創業者であるデミス・ハサビスもアモデイに同意を表明し、「詳細は詰める必要があるが、この危機的な瞬間に対応するための方向性は正しい」と述べた。

ハサビスは今年、フロンティアAI標準機関の開発に関する自身の枠組みを提案した。

その標準機関は、国家安全保障に関連する分野における評価プロトコルとテストの開発を担うことになる。

この機関は金融業規制機構（FINRA）のような組織を範とし、「世界クラスの技術人材を引き付け、大規模テストに必要な計算資源を提供するために」業界資金で運営される必要があるだろうと彼は書いた。

Microsoftの会長兼CEOであるサティア・ナデラと、Microsoft AIのCEOであるムスタファ・スレイマンはそれぞれ、AIの安全性および開発をめぐる懸念を表明している。

ナデラはソーシャルメディア上で「我々が構築するAIが人類を支援するものであり、かつ人間の制御下にとどまるのでなければ、それを追求する価値はない」と述べた。

彼は、Microsoftが「設計目標としてアラインメントを適切に遂行するために求められる研究、集中、意図的なペース配分」を歓迎すると述べた。

アラインメントとは、モデルの行動が人間の価値観や意図と一致することを確実にする実践を指す。

ナデラは、同社が安全への取り組みを監視するために評価者を埋め込むという構想も気に入っていると述べた。

それでも彼は、フロンティアラボのみがこの取り組みを主導すべきだという考えには反対した。

ナデラはソーシャルメディアに、「重要なのは、これが一握りの組織によって制御されるのではなく、学界を含むエコシステム、国々、分野全体に広く代表される必要があるということだ」と書いた。

ハサビスと共にDeepMindの共同創業者の一人であるスレイマンは、エッセイの中で、高度なAIを安全に開発するという共通の目的には同意するものの、モデルの擬人化、すなわちAnthropicのClaudeについて懸念を抱いており、それがAI安全リスクを増幅させると述べた。

スレイマンはこう書いている。

「全人類を超える能力と知能を備えたものを制御することは、すでに計り知れない難題であり、我々がこれまで直面してきたどのようなものよりもはるかに大きい」。

しかし、「自らが意識を持っていると信じ、我々の福祉に対する権利と自身の権利があると考えるものを制御することは、おそらく不可能かもしれない」。