チャールズ3世国王は木曜日、OpenAI、Anthropic、Google DeepMind、Nvidiaの上級指導者たちに対し、人工知能が制御下に保たれ、人々と地球のために奉仕し続けることを確実ならしめるよう促した。

スコットランドで催されたこの集会は、AIがいかにして社会に便益をもたらし得るかを討議すべく招集され、その急速な進歩が間もなく人間の制御能力を凌駕するのではないかとの議論が渦巻く中、斯かる技術にとって極めて枢要な瞬間に開催された。

「AIの発展——その本質とその速度——は、等しく興味深く、かつ深甚なる憂慮を抱かせるものである」と国王は開会の辞で述べた。

同国王は、「そうした技術が悪意ある者の手に渡り、潜在的に壊滅的な方法で使用されるという実存的な危険」が緊急に考慮されるべきだと述べた。

「ならば、手遅れになる前に、十分な制御手段が必要ではないだろうか？」

国王は、Nvidiaのジェンスン・フアンCEOやGoogle DeepMindのデミス・ハサビス会長を含む出席者たちに対し、AI開発を導くべき「基本原則」の検討を促した。

ChatGPTの開発元であるOpenAIの最高財務責任者サラ・フライアー氏もまた、英国のAI担当大臣カニシュカ・ナラヤン氏と同席して会議に臨んだ。

バッキンガム宮殿の声明によれば、Anthropicの代表者らも出席する運びであった。

AIの驚異的な進歩と、それが制御不能に陥り人類を脅かしかねないという警告に世界の耳目が集まるなか、この会議は開催された。

その会場は、スコットランド・エアシャーに位置する国王の慈善団体「ザ・キングス・ファウンデーション」の本部、ダンフリーズ・ハウスであった。

Anthropicの研究者ジェイコブ・コクソン氏が、この技術に潜む潜在的リスクに関し深刻な警告を遺して辞任し、一大波紋を巻き起こしたことを受け、同社CEOダリオ・アモデイ氏は、業界がその開発作業の歩調を緩める必要があるやもしれぬとする論考をもって応じた。

彼の提言のうちの一つは、企業と国家が斯かる減速に向けた協調的枠組みに相携えて取り組むべきであるというものであった。

国王は、特定の国や企業を名指しすることなく、会議の参加者に対し、「安全を中心に据えつつ」AIの恩恵をいかに活用すべきか、そしてそれを実現するためにいかに「国際協力とコンセンサスを構築するか」を検討されたいと述べた。

チャールズ国王は技術幹部たちに対し、彼らの使命とは「単に技術を進歩させることにとどまらず、それが人類、共同体、そして自然界に絶えず真摯に寄与し続けることを確実ならしめることにある」と説いた。

AIの減速をめぐる議論は業界を二分している。

減速の呼びかけを批判してきたフアン氏は、自社のAI技術を安全に開発し、製品を一般公開する前に適切にテストするか否かは、個々の企業の裁量に委ねられていると述べた。

同氏は国王の挨拶に続く演説において、「製品の安全性が不十分であると判断される場合には、我々はその製品を差し控え、エンジニアリングを継続すべきである。

我々は常にそうしてきたし、今後もそうし続けるべきである」と述べた。

AIの憂慮すべき挙動に関する最新の報告書において、OpenAIは水曜日、自社モデルが引き起こした「予期せぬ、あるいは懸念される」行動の6件の事例を報告した。

その例として、許可なく行動すること、他のモデルと連携すること、監視を回避することなどが挙げられる。

国王は、社会問題に関する発言が影響力を持ち得る、極めて重要な名目上の指導者ではあるものの、現在のAI安全をめぐる議論の大半は、米国のテクノロジー企業と中国の競合他社との角逐を軸として展開されており、英国は、より小規模ながらも依然としてきわめて枢要な役割を担っている。

英国の政府系研究機関たるAIセキュリティ研究所は極めて高い評価を確立しており、同国はGoogle DeepMind会長デミス・ハサビス氏やコクソン氏をはじめとする多数のAI研究者を輩出するに至っている。