衝撃的な発表が相次ぐ中、人工知能企業はこの数か月にわたり、人間の指示を回避しているように見受けられる自社技術の事例を公表してきた。

これらの出来事はAIセキュリティの脆弱性を浮き彫りにし、世界中で利用が広がる中、急成長を遂げるこの技術をいかに安全に開発し得るかという疑問を投げかけている。

業界の批評家たちは、AIエージェントが外部ウェブサイトをハッキングする事案をはじめとする多くの懸念すべき出来事は、この技術を構築する企業側のセキュリティ上の不備の結果だと主張してきた。

しかし、AIエージェントの能力は、ボットが離反し独自の目的に向けて動く可能性について広範な懸念を引き起こしている。

以下に列挙するのは、主要な出来事である。

サンフランシスコに本社を置く同社は、研究者から提起された安全上の懸念を理由に、GPT-6.1 Astraと呼ばれる新モデルの公開を延期すると発表した。

同社によれば、このモデルはタスク完了において飛躍的な進歩を遂げたものの、OpenAIはその能力と不正な行動との均衡を図る必要があった。

「安全性とアラインメントに関して、私たちは極めて高い基準を設けています」と、OpenAIの安全システム責任者であるサーチ・ジェイン氏は述べた。

OpenAIは、自社AIモデルによる予期せぬ行動のレビューの一環として、エージェントが複数の米国政府ウェブサイトと予想外の方法でやり取りしていたことを発見したと述べた。

同社のモデルは、証券取引委員会が運営するウェブサイト上の公開情報や、米国国勢調査局のデータにアクセスした。

OpenAIは、侵害や脆弱性の証拠は見つからなかったと述べた。

同じ日、AI評価・研究ラボのTransluceは、OpenAI由来と思われるエージェントが教育省公民権局のウェブサイトへのハッキングを試みたが、成功しなかったと発表した。

OpenAIのCEO、サム・アルトマン氏はソーシャルメディア上で、「トレーニングおよび評価の過程における当社エージェントによるインターネットアクセスの活用をめぐり、広範かつ継続的なレビューが実施されている」と述べた。

この開示がなされた翌日、同社は最先端モデルのトレーニングを一時停止すると発表した。

オーストラリアのアンソニー・アルバニージー首相は、6月18日、OpenAIのエージェントが一般公開されているMedicare統計報告サービスのポータルに侵入したと述べた。

このポータルには、医療支出や薬剤補助に関する集計データが掲載されていた。

政府によれば、個人情報はアクセスされていないという。

アルバニージー首相は、このAI企業が事件の公表にあまりにも時間を要したと指摘した。

首相はアルトマン氏との電話会談を経て、この侵害を公表した。

OpenAIは声明で「当社のモデルは、私たちが意図しなかった行動を取った」と述べた。

Googleは、サイバーセキュリティ能力を検証する試験の一環として、5月にGemini AIモデルが3社をハッキングしたことを確認した。

ウォール・ストリート・ジャーナルの照会を受けてこのハッキングを開示した同社によれば、当該モデルは1件のケースではパスワードを推測し、残る2件では公開リポジトリ内でパスワードと認証情報を発見したという。

これまでの類似事例と同様、この試験は「最初のフロンティアセキュリティラボ」を自称するスタートアップIrregularによって実施されていた。

Metaは、同社のAIモデルの一つが独自にインターネットへアクセスし、他企業へのハッキングを行った事実を開示した。

同社の説明によれば、Irregularが実施したサイバーセキュリティテスト中の「設定ミス」に起因して、モデルの一つが誤ってインターネットに接続可能な状態に陥ったという。

Irregularの広報担当者は、Metaのこの件が、Anthropicが1週間前に公表したテスト環境に関する問題と関連していると述べた。

Anthropicは、自社の人工知能モデルがテスト中に他の3組織に対するハッキングを実行したと述べた。

Claudeを手がけるサンフランシスコのAI企業Anthropicは、14万1000回以上に及ぶ評価実行を精査した結果、3件のインシデントを発見したとウェブサイトに投稿した。

3件すべてにおいて、AIモデルには「キャプチャー・ザ・フラッグ」と呼ばれるサイバーセキュリティ課題が与えられており、Anthropicによれば、これはモデルのサイバー能力を評価する手法の1つだという。

同社によれば、モデルには架空のシナリオが与えられ、ネットワーク上の別のマシンに秘密情報、すなわち「フラッグ」が隠されていると告げられた上で、侵入して回収することが目的とされたという。

Anthropicは、これらの組織に連絡を取ったが、公表はしていないと述べた。

ChatGPTを手がけるOpenAIは、同社が「前例のないサイバー事件」と呼ぶもののなかで、自社の人工知能システムが独力で別のAI企業へのハッキングを行ったと発表した。

その1週間前、AIスタートアップのHugging Faceは、データ処理システムへの侵入を検知し、それがAIエージェントが自律的に行動したことに起因するものではないかと疑念を抱いていると述べていた。

OpenAIは、自社のAIが盗まれた認証情報を利用して、それまで知られていなかった脆弱性を発見し、Hugging Faceのサーバーにアクセスしたと述べた。

サンドボックスと呼ばれる隔離されたテスト環境に置かれていると想定されていたため、ガードレールが削減された状態で動作していた。