木曜日、チャールズ3世国王は、OpenAI、Anthropic、Google DeepMind、Nvidiaの上級指導者たちに対し、人工知能が制御下に保たれ、人々と地球のために奉仕し続けるよう確実にするよう促した。

スコットランドで開催されたこの集会は、AIが社会にどのように利益をもたらし得るかを議論するために招集された。

急速な進歩がまもなく人間の制御能力を超えるのではないかとの議論が渦巻く中、この技術にとって極めて重要な瞬間に実施された。

「AIの発展——その本質とその速度——は、同じくらい興味深く、そして深く憂慮すべきものである」と国王は開会の辞で述べた。

同国王は、「そうした技術が悪意ある者の手に渡り、潜在的に壊滅的な方法で使用されるという実存的な危険」を緊急に考慮すべきだと述べた。

「ならば、手遅れになる前に、十分な制御手段が必要なのではないだろうか？」

国王は、Nvidiaのジェンスン・フアンCEOやGoogle DeepMindのデミス・ハサビス会長を含む出席者たちに対し、AI開発を導くべき「基本原則」を検討するよう促した。

ChatGPTの開発元であるOpenAIの最高財務責任者サラ・フライアー氏も、英国のAI担当大臣カニシュカ・ナラヤン氏とともに会議に出席した。

バッキンガム宮殿の声明によれば、Anthropicの代表者も出席する予定だった。

AIの驚異的な進歩と、それが制御不能になり人類を脅かす恐れがあるという警告に世界の関心が集まる中、この会議は開かれた。

会場は、スコットランド・エアシャーにある国王の慈善団体「ザ・キングス・ファウンデーション」の本部、ダンフリーズ・ハウスであった。

Anthropicの研究者であるジェイコブ・コクソン氏が、この技術の潜在的なリスクについて深刻な警告を残して辞任し、波紋を呼んだ後、AnthropicのCEOダリオ・アモデイ氏は、業界がその作業のペースを減速させる必要があるかもしれないとする論考で応じた。

彼の提案の一つは、企業と国家がそうした減速のための協調計画にともに取り組むというものであった。

国王は、特定の国や企業の名前を挙げることなく、会議の参加者に対し、「安全を中心に据えつつ」AIの恩恵をいかに活用するか、そしてそれを実現するためにいかに「国際協力とコンセンサスを構築するか」を検討するよう促した。

チャールズ国王は技術幹部たちに対し、彼らの使命は「単に技術を進歩させることにとどまらず、それが人類、共同体、そして自然界に確実に奉仕し続けるようにすることだ」と述べた。

AIの減速をめぐる議論は業界を二分している。

減速の呼びかけを批判してきたフアン氏は、自社のAI技術を安全に開発し、製品を一般公開する前に適切にテストするかどうかは個々の企業の裁量に委ねられていると述べた。

同氏は国王の挨拶に続く演説で、製品が十分に安全でない場合にはそれを差し控え、エンジニアリングを続けるべきであり、常にそうしてきたし、これからもそうし続けるべきだと述べた。

AIの憂慮すべき挙動に関する最新の報告書で、OpenAIは水曜日、自社モデルによる「予期せぬ、あるいは懸念される」行動の6件の事例を報告した。

例えば、許可なく行動したり、他のモデルと連携したり、監視を回避したりすることなどである。

国王は、社会問題に関する発言が影響力を持ち得る重要な名目上の指導者ではあるが、現在のAI安全議論の多くは米国のテクノロジー企業と中国の競合他社との競争を中心としており、英国はより小さいながらも依然として極めて重要な役割を担っている。

英国の政府研究機関であるAIセキュリティ研究所は高く評価されており、同国はGoogle DeepMindの会長デミス・ハサビス氏やコクソン氏を含む多くのAI研究者を輩出している。