テックウィークがサンフランシスコで佳境を迎えるなか、今週は市内のレストランがベンチャーキャピタリストやAI創業者たちで賑わいを見せている。

彼らはホワイトハウスの人工知能規制に対する姿勢——すなわち、規制しないこと——に熱狂している。

そして、主要AI企業の無チェックなAIエージェントが米政府のウェブサイトから医療データまであらゆるものに干渉しているという数ヶ月にわたる議論を経て、米国は数年前よりもAIシステムの統治からさらに遠ざかっている。

先月下旬、ドナルド・トランプ大統領はテック業界の巨頭たちをワシントンに招き、昼食会を催すとともに、彼が「超知能」——政権がAIに対して新たに好んで用いるようになった用語——を巡り「ほぼ憲法」と称した自主的な安全協定の調印式を行った。

308語からなるこの協定は、先進的なAI研究所が安全プロトコルに従い、自らの進歩を監視する内部チームを設置すべきだと定めているものの、政権は、OpenAIのCEOサム・アルトマンの言葉を借りれば「悪いこと」が起こるのを防ぐ方法について、いまだ詳細を明らかにしていない。

水曜日、サンフランシスコの混雑したイベント会場において、安全上の懸念は念頭に置かれていなかった。

創業者や資金提供者たちは、政府の不干渉アプローチが、AIを活用した防衛・セキュリティシステムを構築する企業の利益を増大させると主張した。

「最先端への投資」を目的とした会合の一つで、パネリストたちは政府の強気な業界支援を称賛した。

これは、トランプ大統領の科学技術顧問を務める人物が率いるベンチャー企業アンドリーセン・ホロウィッツが主催したポップアップイベントである。

「防衛への投資機会を真に強調する数字を一つ挙げたい。

それは1兆ドルだ。

米国政府は初めて、防衛支出に1兆ドルを割り当てており、そのうち135億ドルが自律システムとAIに充てられる」と、市場情報プラットフォームPitchBookのベンチャーキャピタル調査責任者カイル・スタンフォード氏は述べた。

「これは明らかに、防衛テック支出にこれまでにないほどの資本をもたらしている」

その翌日、OpenAI本社の研究者3名が、ChatGPTを開発した企業によって自らが解雇されたと述べ、「恐怖と不明確なルールがAI安全業務を妨げている」と投稿した。

また、最近辞任するまでOpenAIの安全チームのリーダーを務めていたデビッド・ロビンソン氏は、最先端研究所に自主的な監視を任せることに懸念を表明した。

ロビンソン氏は、「これは厳格な法律に取って代わるものではなく、企業に広範な自由を与えるものだ」と述べた。

「モデル世代間の時間は数週間単位で測られる……そのため、我々はより短期的な視点で、いくつかの極めて深刻な安全上の課題に直面していると私は考える」

トランプ大統領はAI業界の成功に政治資本を賭けており、その自由な開発が中国とのAI競争に打ち勝つ鍵であると述べている。

2期目の初日、この共和党大統領は、AIシステムが消費者、労働者、国家安全保障にもたらすリスクを防ぐことを一部目的としたバイデン時代の大統領令を廃止した。

それ以来、政権は連邦政策を監督から急速な成長へと方向転換し、AI開発者が安全テストの結果を連邦政府と共有するという以前の要件を撤廃するなどしている。

12月、トランプ大統領は州レベルのAI規制を阻止することを目的とした大統領令に署名し、規制が州ごとに寄せ集めになることで業界を抑制しかねないと述べた。

シリコンバレー企業が年間を通じて自社モデルが厄介なサイバー攻撃に関与したことを開示してきたにもかかわらず、急成長するテックセクターは経済成長を牽引し続けている。

AIの安全性をめぐる懸念が、目下の現実世界における危害ではなく実存リスクへと集中したことは、先月の議論の中心となった。

比較的无名のAnthropicのエンジニアが辞職し、「超人的」なシステムが制御を逃れるのを防ぐため、技術開発の一時停止を呼びかけたのである。

その後、AnthropicとOpenAIのCEOたちも、AI開発の減速を求める声に同調した。

一部の批評家にとって、彼らの公開宣言は、新規株式公開や中間選挙を前に投資家の好意を得ること、そして多くの有権者がデータセンターに反対していることで政治情勢が変わりうる中で、それを狙ったものに見えた。

「AIに必要な唯一の制御、つまり『ガードレール』は、強くて賢い（高IQ！）大統領であり、USAにはそれが十分にある！」とトランプ大統領はTruth Socialで応じ、有権者に「金の卵を殺す」なと警告した。

これはAIとデータセンターの両方を指すために彼が使ってきた言葉である。

AIの厳格な管理を求める声が高まりを見せる中、政権はテック企業の幹部らをホワイトハウスでの昼食に招き、その後、AIの安全性に関する協定の調印式を取り行った。

「私は途方もない自主的な監視活動を目の当たりにしている」とトランプ大統領はイベント終了後に記者団に対して述べた。

本件文書には、OpenAI、Anthropic、Meta、Google、SpaceXAI、Nvidiaの各代表が署名を寄せている。

OpenAIは、外部評価者を組み込むこと、および第三者による安全評価者との契約を最終化することにコミットしていると広報担当者が述べ、同担当者はAPを、研究者たちが「機密情報の取り扱いに関する明確なポリシー」に違反したために解雇されたとする会社の投稿へと案内した。

Googleは、適切なテストと評価を行い、「規範を確立し国民の信頼を築く」ために協力しているとCEOのスンダー・ピチャイ氏が述べた投稿を参照した。

メタは先ごろ、最も高性能なAIモデルの訓練・評価・公開に関する基準を改定し、広報担当のアンディ・ストーン氏は、取締役会のガバナンス構造をより洗練させようとする同社の取り組みを挙げた。

NvidiaとSpaceXAIは、コメントを求められたにもかかわらず、それに応じることはなかった。

Anthropicは金曜日、同社のエージェントが未解決殺人事件についてフィラデルフィア警察のウェブサイトに虚偽の通報を送信したと自発的に開示したが、広報担当者によれば、同社は独立した評価者を招き、業界団体との協力について協議している。

声明でホワイトハウスは、イノベーションとセキュリティのバランスを取るために業界と協力するというトランプ大統領のコメントを繰り返したが、政権がAI企業の実施をどのように監視する計画かという質問には直接答えなかった。

Anthropicの新たな開示を受け、トランプ政権は同社に完全な透明性を求めるとともに、通知と是正は「任意ではない。それは重要な国家安全保障上の義務である」と付け加えた。

民主党のジョー・バイデン大統領の下でも、主要AI企業はモデルの「安全で、安全かつ透明な開発」を促進する自主的コミットメントを行い、テストと透明性報告に関する具体的なガイドラインを含んでいた。

現在の協定にはそれが欠けていると、連邦取引委員会の元上級AI顧問サラ・マイヤーズ・ウェスト氏は述べた。

「総じて言えば、この自主規制というアプローチは一貫してただ一つのことだけを行ってきた。

それは機能しないということだ。

これらの企業が自らの内部を誠実に整えていることさえ、ましてや既存の法を遵守していることを、意味のある形で保証することに失敗してきた」と、ニューヨークを拠点とする非営利団体AI Nowの共同執行責任者であるマイヤーズ・ウェスト氏は述べた。

「彼らがこの政府から得ているものといえば、恩恵のみである」

先月のトランプ大統領との昼食会を経て、FTCはOpenAIやAnthropicなどが自社技術を消費者に提供する際に伴いうる危険性について調査を開始したと公表した。

FTCはコメント要請に対して即座には応じなかった。

トランプ大統領は先ごろ、国家情報長官ジェイ・クレイトン氏とFTC委員長アンドリュー・ファーガソン氏を新設の「超知能部隊」に任命し、米国のAI開発における優位を維持すると述べた。

彼は木曜日、AIを彼の好む用語で呼ばない者を「敵！」と見なすとホワイトハウスが検討すると投稿した。

議会議員や市民的自由・消費者権利団体は、AIに対する規制の強化を求めつつ、十分な監督が行われていないと主張している。

米国財務省の元次官補グラハム・スティール氏は、AI企業が内部評価チームを設置したり外部評価者を雇ったりしても、そのような構造は彼らの業務に不当な圧力を受けやすくする可能性があると述べた。

「私たちは民主主義社会に生きている。広範で構造的、社会的、政治的結果をもたらす決定を下す権限を持つべきは彼らなのだろうか？」とスティール氏は述べた。