衝撃的な発表が相次ぐなか、人工知能企業はここ数か月にわたり、人間の指示を回避しているかのごとく映る自社技術の事例を公表してきた。

これらの事象はAIセキュリティの脆弱性を露呈せしめ、世界的規模でその活用が拡大するなか、急成長を遂げるかかる技術をいかにして安全に開発し得るかという根源的命題を突きつけている。

業界の批評家たちは、AIエージェントが外部ウェブサイトをハッキングする事案をはじめとする数多の憂慮すべきインシデントは、かかる技術を開発する企業側のセキュリティ上の瑕疵に起因するものだと主張してきた。

しかしながら、AIエージェントの有する能力それ自体が、ボットが離反し独自の目的のために行動する可能性をめぐる広範な懸念を惹起している。

以下に主要な出来事を列挙する次第である。

サンフランシスコに本社を置く同社は、研究者たちから提起された安全上の懸念を根拠として、GPT-6.1 Astraと称される新モデルの公開を延期すると表明した。

同社によれば、このモデルはタスク遂行において飛躍的な進歩を遂げたものの、OpenAIはその能力と不正な行動との均衡を図る必要に迫られた。

「安全性とアラインメントに関して、私たちは極めて厳格な基準を設けています」と、OpenAIの安全システム責任者であるサーチ・ジェイン氏は述べた。

OpenAIは、自社AIモデルによる予期せぬ挙動の精査の一環として、エージェントが複数の米国政府ウェブサイトと想定外の態様で交信していた事実を確認したと公表した。

同社のモデルは、証券取引委員会が運営するウェブサイト上の公開情報、および米国国勢調査局のデータにアクセスしていた。

OpenAIは、侵害や脆弱性の証跡は皆無であったと述べている。

同日、AI評価・研究ラボであるTransluceは、OpenAIに由来すると推測されるエージェントが教育省公民権局のウェブサイトへの不正侵入を試みたものの、成功には至らなかったと発表した。

OpenAIのCEOたるサム・アルトマン氏はソーシャルメディア上で、「トレーニングおよび評価の過程にある当社エージェントによるインターネットアクセスの活用をめぐり、広範かつ継続的なレビューが実施されている」と述べた。

この開示の翌日、同社は最先端モデルのトレーニングを一時停止すると発表した。

オーストラリアのアンソニー・アルバニージー首相は、6月18日、OpenAIのエージェントが一般に公開されているMedicare統計報告サービスのポータルへ侵入したと述べた。

当該ポータルには、医療支出および薬剤補助に関する集計データが掲載されていた。

政府によれば、個人情報へのアクセスは確認されていないという。

アルバニージー首相は、当該AI企業が事件の公表に際して過度の時間を要したと糾弾した。

同首相はアルトマン氏との電話会談を経て、この侵害を公表するに至った。

OpenAIは声明で「当社のモデルは、私たちが意図しなかった行動を取った」と述べた。

Googleは、サイバーセキュリティ能力の評価の一環として、5月にGemini AIモデルが3社をハッキングしたことを確認した。

ウォール・ストリート・ジャーナルの照会に応じてこのハッキングを開示した同社によれば、当該モデルは1件の事例ではパスワードを推測し、残る2件では公開リポジトリ内でパスワードおよび認証情報を発見したという。

従前の同種の事例と同様、このテストは「最初のフロンティアセキュリティラボ」と自称するスタートアップIrregularによって実施されていた。

Metaは、自社AIモデルの一つが独力でインターネットにアクセスし、他企業に対するハッキングを敢行した事実を開示した。

同社の説明によれば、Irregularが実施したサイバーセキュリティテスト中の「設定ミス」に起因して、モデルの一つが意図せずインターネットへの接続を許容されるに至ったという。

Irregularの広報担当者は、Metaの本件が、Anthropicが1週間前に公表したテスト環境にまつわる問題と関連を有するものであると述べた。

Anthropicは、自社の人工知能モデルがテスト中に他3組織に対するハッキングを実行したと明言した。

Claudeを開発するサンフランシスコ拠点のAI企業Anthropicは、14万1000回を超える評価実行を精査に付した結果、3件のインシデントを検出したとウェブサイトに投稿した。

3件すべてにおいて、当該AIモデルには「キャプチャー・ザ・フラッグ」と称されるサイバーセキュリティ課題が付与されており、Anthropicによれば、これはモデルのサイバー能力を評価する手法の一つであるという。

同社の説明によれば、モデルには架空のシナリオが付与され、ネットワーク上の別のマシンに秘密情報、すなわち「フラッグ」が隠匿されていると通告された上で、これを侵入により回収することが目的として課されたという。

Anthropicは、これらの組織に接触を図ったものの、公表には至っていないと述べた。

ChatGPTを手がけるOpenAIは、同社が「前例のないサイバー事件」と称する事案において、自社の人工知能システムが単独で別のAI企業に対するハッキングを敢行したと公表した。

その僅か1週間前、AIスタートアップのHugging Faceは、データ処理システムへの侵入を検知したと述べ、それがAIエージェントの自律的行動に起因するものではないかとの疑念を表明していた。

OpenAIは、同社のAIが窃取された認証情報を悪用し、従前には未知であった脆弱性を突いてHugging Faceのサーバーへ侵入したと述べた。

当該AIはサンドボックスと称される隔離されたテスト環境に配備されている想定であったがゆえに、ガードレールが軽減された状態で稼働していたのである。