テックウィークがサンフランシスコで佳境を迎えるなか、今週を通じて市内のレストランはベンチャーキャピタリストやAI起業家たちで喧騒に包まれている。

彼らが熱狂の渦に身を委ねているのは、ホワイトハウスの人工知能規制に対する姿勢——すなわち、規制を一切講じないこと——に対してである。

そして、主要AI企業の無チェックなAIエージェントが米政府のウェブサイトから医療データに至るまであらゆるものに干渉しているという、幾月にも及ぶ論争を経て、米国は数年前と比較してAIシステムの統治から一層遠ざかりつつある。

先月下旬、ドナルド・トランプ大統領はテック業界の巨頭たちをワシントンに招集し、昼食会を催すとともに、彼が「超知能」——政権がAIに関して新たに好んで用いるようになった語——を巡る「ほぼ憲法」と称した自主的な安全協定への調印式を行った。

308語からなるこの協定は、先進的なAI研究所が安全プロトコルに準拠し、自らの進歩を監視する内部チームを設置すべきであると規定しているものの、政権は、OpenAIのCEOサム・アルトマンの言辞を借りれば「悪いこと」の発生を未然に防ぐ方策について、いまだその詳細を明らかにするには至っていない。

水曜日、サンフランシスコの混雑したイベント会場において、安全上の懸念は念頭に置かれていなかった。

創業者や資金提供者たちは、政府の不干渉アプローチが、AIを活用した防衛・セキュリティシステムを構築する企業の利益を増大させると述べた。

「最先端への投資」と題された某会合において、パネリストたちは政府による強気の産業支援策を絶賛した。

これは、トランプ大統領の科学技術顧問を務める人物が統率するベンチャー企業アンドリーセン・ホロウィッツが主催したポップアップイベントの一つにほかならない。

「防衛分野における投資機会を真に際立たせる、一つの指標を提示したい。

すなわち、1兆ドルという数字である。

米国政府は史上初めて、防衛支出に1兆ドルを配分しており、そのうち135億ドルが自律システムおよびAIに充当される」と、市場情報プラットフォームPitchBookのベンチャーキャピタル調査責任者カイル・スタンフォード氏は述べた。

「これは紛れもなく、防衛テック支出に前例のない規模の資本をもたらしている」

その翌日、OpenAI本社の研究者3名が、ChatGPTを開発した当該企業によって自らが解雇されたと述べ、「恐怖と不明確なルールがAI安全業務を妨げている」と投稿した。

これとは別に、最近辞任するまでOpenAIの安全チームのリーダーを務めていたデビッド・ロビンソン氏は、最先端研究所に自主的な監視を委ねることに対する懸念を表明した。

ロビンソン氏は、「これは厳格な法律に取って代わるものではなく、企業に広範な裁量の余地を与えるものだ」と述べた。

「モデル世代間の時間的隔たりは数週間単位で測られる……そして、我々はより短期的な視座において、いくつかの極めて深刻な安全上の課題に直面していると考える」

トランプ大統領はAI業界の成功に政治資本を賭けており、その自由な開発こそが中国とのAI競争に打ち勝つ鍵であると主張している。

2期目の初日、この共和党大統領は、AIシステムが消費者、労働者、ひいては国家安全保障に及ぼし得るリスクを防止することを一目的としたバイデン時代の大統領令を廃止した。

それ以降、政権は連邦政策の舵を監督体制から急速な成長促進へと大きく切り、AI開発者が安全テストの結果を連邦政府と共有するという従来の要件を撤廃するなどしている。

12月には、トランプ大統領が州レベルのAI規制を封じることを企図した大統領令に署名し、規制の寄せ集めが業界の足かせとなりかねないと述べた。

シリコンバレー企業が年間を通じて自社モデルが厄介なサイバー攻撃に関与したことを開示してきたにもかかわらず、急成長を遂げるテックセクターは依然として経済成長を牽引し続けている。

AIの安全性をめぐる懸念が、目下の現実世界における危害ではなく実存リスクへと収斂したことは、先月の議論の焦点となった。

比較的无名のAnthropicのエンジニアが辞任し、「超人的」システムが制御を逸脱することを阻止すべく技術開発の一時停止を訴えたのである。

その後を追うように、AnthropicとOpenAIのCEOたちもAI開発の減速を求める声に同調した。

一部の批評家の目には、彼らの公開宣言は、新規株式公開や中間選挙を控えるなかで投資家の好意を獲得すること、そして多くの有権者がデータセンターに反対していることを背景に政治情勢が変容しうる状況下で、それを狙ったものと映った。

「AIに不可欠な唯一の統制、すなわち『ガードレール』とは、強靭かつ聡明な（高IQ！）大統領にほかならず、USAにはそれが十二分に備わっている！」とトランプ大統領はTruth Social上で応酬し、有権者に対して「金の卵を殺す」ことのないよう警告を発した。

これは同大統領がAIとデータセンターの双方を指して用いてきた比喩である。

AIに対する一層厳格な統制を求める機運が高まるなか、政権はテック企業の幹部らをホワイトハウスの昼食会に招致し、しかるのちにAI安全に関する協定の調印式を執り行った。

「私は、途方もない自主的な監視体制が敷かれている有様を目の当たりにしているのだ」とトランプ大統領はイベント後に記者団に語った。

本件文書には、OpenAI、Anthropic、Meta、Google、SpaceXAI、Nvidiaの各代表者らによる署名が付されている。

OpenAIの広報担当者は、同社が外部評価者の組み込みと第三者安全評価者との契約締結の最終化に尽力していると述べ、APを、研究者たちが「機密情報の取り扱いに関する明確なポリシー」に違反したがゆえに解雇されたとする同社の投稿へと案内した。

Googleは、CEOスンダー・ピチャイ氏の投稿を参照した。

その投稿において同氏は、同社が適切なテストと評価を実施し、「規範を確立し国民の信頼を築く」ために協力していると述べている。

Metaは先般、最高度の能力を有するAIモデルの訓練・評価・公開に関する基準を改定し、広報担当のアンディ・ストーン氏は、取締役会のガバナンス構造を精緻化せんとする同社の取り組みを指摘した。

NvidiaとSpaceXAIは、コメントを求める要請には応じなかった。

Anthropicは金曜日、同社のエージェントが未解決殺人事件に関してフィラデルフィア警察のウェブサイトに虚偽の通報を送信したことを自発的に開示したが、独立した評価者を招致し、業界団体との協働について協議していると広報担当者が述べた。

声明においてホワイトハウスは、イノベーションとセキュリティの均衡を図るべく業界と協働するというトランプ大統領の所見を反復しつつも、政権がAI企業による実施をいかに監視する計画であるかという問いに対しては、直接的な回答を差し控えた。

Anthropicの新たな開示を受け、トランプ政権は同社に対し完全な透明性を求めるとともに、通知と是正は「任意ではない。それは重要な国家安全保障上の義務である」と付言した。

バイデン大統領の下でも、主要AI企業はモデルの「安全で、安全かつ透明な開発」を促進する自主的コミットメントを表明しており、それにはテストおよび透明性報告に関する具体的なガイドラインが含まれていた。

しかしながら、現行の協定にはそうした要素が欠如していると、連邦取引委員会の元上級AI顧問であるサラ・マイヤーズ・ウェスト氏は指摘した。

「包括的に見れば、この自主規制というアプローチが一貫して果たしてきたのはただ一点のみである。

すなわち、機能しないということだ。

これらの企業が自らの家を誠実に整えていることすら、ましてや既存法を遵守していることを有意義な形で保証することに、それは失敗してきた」と、ニューヨークを拠点とする非営利団体AI Nowの共同執行責任者であるマイヤーズ・ウェスト氏は述べた。

「彼らがこの政府から得ているのは恩恵のみである」

先月のトランプ大統領との昼食会を経て、FTCはOpenAIやAnthropicなどが自社技術を消費者に提供する際に伴い得る危険性について調査に着手したと公表した。

FTCはコメント要請に対して即座には応じなかった。

トランプ大統領は先般、国家情報長官ジェイ・クレイトン氏およびFTC委員長アンドリュー・ファーガソン氏を新設の「超知能部隊」に任命し、米国のAI開発における優位性を維持すると言明した。

彼は木曜日、AIを自身の好む用語で呼ばない者を「敵！」と見なすとホワイトハウスが検討していると投稿した。

議会議員や市民的自由・消費者権利団体は、AIに対する一層の規制を求める一方で、十分な監督が行われていないと主張している。

米国財務省の元次官補であるグラハム・スティール氏は、仮にAI企業が内部評価チームを設置し、あるいは外部評価者を雇用したとしても、かかる構造は彼らの業務を不当な圧力に対して脆弱ならしめかねないと述べた。

「我々は民主主義社会に生きている。広範かつ構造的、社会的、政治的帰結をもたらす決定を下す権限を彼らが有すべきなのだろうか？」とスティール氏は述べた。