制御不能な人工知能に対する懸念や、その技術開発に歯止めをかけるべきだとする提言は、決して目新しいものではない。

しかしながら、凶暴なAIシステムが混乱を惹起するという警鐘が高まる中にあって、近年、そうした懸念は新たな命を吹き込まれつつある。

複数の主要AI企業の幹部らは先般、人類を最悪の事態から回避せしめるべく、国際的な協調を含む協調的減速の不可欠性において一致をみた。

しかしながら、見解は二分されており、一部のテックリーダーらは、自社のみでは安全を担保し得ないという命題に対して異を唱えている。

主要なプレイヤーたちが遺した発言の数々へと、いささか仔細に眼を凝らしてみることにいたそう。

AnthropicのCEOであるダリオ・アモデイは、開発の歩みを遅延させ、かつ多様な企業や国家間における協調を促進すべく、最も精緻を極めた計画を提示した。

Anthropicは、2021年に創業者たちがOpenAIを離れて当該スタートアップを設立して以来、主要AI企業のなかでも一際強い責任感と安全志向を備えた存在として自らを位置づけてきた。

彼の減速計画について近刊のエッセイで概説された提案のうち、最も広範な関心を集めたものの一つは、しばしばフロンティアラボと称されるAI開発の最前線に位置する企業に対し、独立した外部評価者らに「継続的かつ従業員に準ずるアクセス」を付与することを確約させる、というものである。

評価者チームはオフィスやアクセスバッジ、会社支給のラップトップを有し、安全慣行を監視することが可能となる。

Anthropicはこれを実行に移すことを約束しており、OpenAIもまた同様である。

アモデイはさらに、米国政府およびその他の民主主義諸国の政府の支援を受けたフロンティアAI企業間の連携をも包含する、政府による規制と介入を要請した。

彼の計画には、米国ならびにその他の諸国が「権威主義政府」と協調する取り組みも包含されている。

彼はその困難さを認め、とりわけ中国からの協力を取り付ける上での課題を具体的に列挙した。

アモデイは、自らの提案の実現が容易ならざるものであることを十分に認識しつつも、「人類のために試みる義務がある」と確信していると述べた。

OpenAIのCEOたるサム・アルトマンは、開発のペース配分のあり方、ならびに業界全体における協力関係の一層の深化へと舵を切るべきだとの主張を、公然と唱え始めている。

アモデイのエッセイが公表される僅か数日前に、OpenAIは、同社が義務的な国家安全性要件を推進し、「より広範なAI安全エコシステムを強化する」州法を引き続き支持していることを概説する長文を投稿した。

同社はまた、政府の支援の有無にかかわらず他のフロンティアAIラボと協力し、グローバル標準の構築に取り組むことへの支持も表明した。

OpenAIのチーフ・グローバル・アフェアーズ・オフィサーであるクリス・レハーンは、投稿において次のように記した。

「我々は、能力の測定、リスクの管理、人間による制御の維持、ならびに開発をいつ、いかにして減速ないし停止すべきかの決定に際し、相互運用可能な国際的アプローチを提唱する。

たとえそれがモデル能力の進歩を遅延させることを意味するとしても」と。

レハーン曰く、OpenAIが構想する理想的な連邦的枠組みには、「共通のテストおよび独立した評価要件、一層強固なサイバーセキュリティ保護、明確なインシデント報告規則、国家的備えの増強、ならびに再帰的自己改善（AIシステムが自律的に自己改良を遂げる場合）の進捗を追跡するための共有指標」の策定が包含されるという。

アルトマンは近時の発言において、AI開発の「ペース配分」なるものが開発の停止を意味するものではないと明言している。

AIの進歩は今後も急速に継続するであろうとアルトマンはX上で述べた。

「しかしながら、それは本来あり得たであろう速度よりも減速されるべきである。

安全ケースや監視といった介入には多大なコストが伴う」

「ペース配分はこのコストに十分見合うだろう」と彼は述べ、加えて「アメリカの競争圧力がいかなる量であろうとも、無謀さを正当化すべきではない」と付け加えた。

メタのCEOたるマーク・ザッカーバーグは、協調的減速という構想に対し、異を唱える姿勢を鮮明にしている。

AIの未来に関して同僚の一部よりも楽観的なビジョンを抱くザッカーバーグは、各AI企業は自社技術の安全性を独自に担保すべきであると主張し、自らとMetaを減速を巡る議論から遠ざけた。

ザッカーバーグは、AI企業は既に自社のモデルを安全な手法で開発する動機を備えており、危害を惹起することを防止するために「重大な責任」を負っていると述べた。

「あらゆるラボには、自社のモデルを安全に訓練するために必要とされるペースで歩みを進め、それが現実のものとなるよう独自の行動を取る責任と動機が存在する」と彼はXに記した。

NvidiaのCEOジェンスン・フアンもまた、減速を求める動きを批判している。

彼はその代わりに、各企業は市場が評価するものをリリースすることに自信が持てるまで、自らのペースを調整すべきだと述べている。

フアンは、市場の力は既に存在しており、新たな法律も新たな規制も不要であると述べ、さらにイノベーションと安全は相克するものではなく、「両方を同時に実現することは疑いなく可能である」と主張した。

イーロン・マスクは減速という構想を支持しており、昨今の騒動のはるか以前より、AIの安全性に関わる同様の懸念を公に表明していたのである。

xAIをはじめとする数多のテック系ベンチャーの創業者たるマスクは、アモデイのエッセイをX上でリポストするや否や、「ダリオは正しい」と附言した。

彼はのちに、自らは「長きにわたりAIに関し警鐘を鳴らし続けてきた」とオンライン上に綴った。

今夏のエコノミスト誌とのインタビューにおいて、マスクは主要AIラボの指導者たちが安全およびセキュリティ上の懸念を協議すべく一堂に会する必要があり、競合各社は懸念領域に関し相互のモデルを検証すべきであると示唆した。

「AIの最前線を推進する深い技術的識見を欠いた政府の誰かが、何かをリリースすべきか否かを見極めるのは極めて困難だと私は考える。

しかし競合他社は、新たなモデルを1～2週間精査する時間を許されれば、問題を浮き彫りにし、他の者を誠実に保つ動機を有している」とマスクは述べた。

Google DeepMindの会長兼共同創業者たるデミス・ハサビスもまた、アモデイへの同意を表明し、「詳細を詰める必要はあるものの、この危機的な瞬間に対処するための方向性は正当である」と述べた。

ハサビスは本年、フロンティアAI標準機関の開発に関する自らの枠組みを提案している。

その標準機関は、国家安全保障に関連する領域における評価プロトコルおよびテストの開発を担うことになる。

この機関は金融業規制機構（FINRA）に類する組織を範とし、「世界水準の技術人材を惹きつけ、大規模テストに不可欠な計算資源を供給するため」に業界資金によって運営される必要があるだろう、と彼は記した。

Microsoftの会長兼CEOであるサティア・ナデラと、Microsoft AIのCEOであるムスタファ・スレイマンは各々、AIの安全性および開発を巡る懸念を表明している。

ナデラはソーシャルメディア上で「我々が構築するAIが人類を支援するものであり、かつ人間の制御下に置かれているのでなければ、それを追求する価値はない」と述べた。

彼は、Microsoftが「設計目標としてアラインメントを適切に遂行するために不可欠な研究、集中、および意図的なペース配分」を歓迎していると述べた。

アラインメントとは、モデルの行動が人間の価値観や意図と合致することを確実にする実践を指す。

ナデラは、同社が安全への取り組みを監視するために評価者を組み込むという構想にも好感を抱いていると述べた。

それにもかかわらず、彼はフロンティアラボのみがこの取り組みを主導すべきだという考えには異を唱えた。

「肝要なのは、これが一握りの組織によって統制されるのではなく、学界を包含するエコシステム、諸国家、ひいては分野全体にわたって広範に代表されることを要するという点である」とナデラはソーシャルメディアに記した。

ハサビスと共にDeepMindの共同創業者の一人であったスレイマンは、エッセイにおいて、高度なAIを安全に開発するという共通の目的には同意するものの、モデルの擬人化、すなわちAnthropicのClaudeについて懸念を抱いており、それがAI安全リスクを増幅させると述べた。

スレイマンは記した。

「全人類を凌駕する能力と知能を備えたものを制御することは、既にして測り知れぬ難題であり、我々がこれまでに直面したいかなるものをも遥かに超えている」。

「されど、自らが意識を有するやもしれぬと信じ、我々の福祉に対する権利と自らの権利を有すると見做すものを制御することは、おそらく不可能なのかもしれない」