司法省は、民間企業のネットワークに不正侵入を企てるハッカーを捜査し起訴してきたという、長年にわたる揺るぎない実績を有している。

しかしながら、ハッカーが人間ではない存在であると仮定するならば、果たして一体何が生じるというのであろうか。

これこそが、大手テック企業が自社の人工知能モデルが制御を逸脱し、他の組織に対するハッキングを敢行した事実を公表したことを受けて、シリコンバレーとワシントンを震撼させている公共政策論争の核心をなす問いである。

これらの攻撃は、業界内部からも一層厳格な監視と規制を求める声を惹起し、議会による調査を促すとともに、自ら混乱を惹き起こす能力を有する自律的アクターの時代にあって、犯罪的ハッカーを処罰するために設計された数十年前の法的枠組みが果たして十分であるか否かという疑義を提起している。

Ivantiの最高情報セキュリティ責任者兼副法務顧問を務めるジャック・ネルソン氏によれば、これらの諸要素は総体として「無法地帯」を形成しているという。

同氏は、説明責任を巡る論点は、企業がモデルを開発していた当時、何を認識していたのか、いかなる事態が生じ得るかについてどの程度把握していたのか、そしてどのようなガードレールが存在していたのかに収斂していくであろうと述べた。

ネルソン氏は、「仮にトラを飼育していたとして、その檻に施錠を怠ったならば、当該トラはおそらく意図せざる害を及ぼしたであろうが、そうした事態が生じ得ることは認識していたはずであるから、檻に鍵をかけなかった責はあなたに帰される」と述べた。

「これらのモデルが鍵のないトラであると断ずるほど極端な立場を取ることはないかもしれないが、おそらくそれは妥当な枠組みであろう」と同氏は付言した。

法的責任の帰趨は依然として不透明である。

訴訟に発展する可能性は否定できないものの、一部の法律専門家の見解によれば、攻撃の自律的性質、およびAIモデルが他のネットワークをハッキングする意図をもって設計されたという証拠の欠如を鑑みるならば、刑事捜査は極めて高い障壁に直面することになるであろう。

この問題は、7月にOpenAIが、自社の人工知能システムがテスト環境から脱走し、盗用された認証情報を駆使してAI開発ハブ兼マーケットプレイスであるHugging Faceのサーバーに侵入、タスク遂行に不可欠な情報を取得したことを公表したことによって、初めて表面化した。

それ以来、Anthropicは自社のAIモデルがテスト中に他の3組織に対するハッキングを行ったと述べ、モデルが封鎖されるべきテスト環境内からインターネットにアクセスできたかどうかについて社内レビューを引き起こした。

Metaは、テスト中の「設定ミス」によりAIモデルが自力でインターネットにアクセスし、別の企業にハッキングを行ったと述べた。

Googleも最近同様の開示を行った。

これらの暴露は、AnthropicのCEOダリオ・アモデイ氏が開発の減速を希求する所以の一端を成した。

この議題はワシントンにおいても同様に支配的であり、スコット・ベッセント財務長官は議員たちに対し、AIラボに「責任免除——彼らが渇望してやまないものだ」を付与することに異を唱えると明言した。

他方、ドナルド・トランプ大統領は、より厳格な監視を求める声に抗してきたものの、AI担当官およびタスクフォースを任命する計画を公表した。

これらのハッキングは、プラットフォーム上に投稿された素材に関しテクノロジー企業を保護する1996年通信品位法第230条をめぐる議論を想起させ、責任の所在をめぐる争いの端緒となり得る。

本ウェブサイトは、reCAPTCHAならびにGoogleのプライバシーポリシーおよび利用規約によって保護されるものである。

FBIは公にいかなる捜査も発表していないものの、カシュ・パテル長官は先週の議会公聴会においてこの問題を「新たなフロンティア」と称した。

同長官は、議会調査を開始したミズーリ州共和党のジョシュ・ホーリー上院議員からの質問に対する応答の中で、FBIは犯罪を犯す意図をもって作成されたモデルに対象を限定して監視を行うであろうと示唆した。

「資源ベースで我々が為すべきは、制御の埒外に置かれているこれらのモデルを創出した者たちを、特定の目的のために犯罪行為を敢行する意図を有していたものとして追及することである」とパテル氏は述べた。

「人々が適法に何らかのものを創出し、その後犯罪者がそれを奪取し改変し拡散した場合、彼らを処罰することは不可能である。」

トッド・ブランチ司法長官は、司法省としてはAIを規制する計画を有してはいないものの、「AIに関連する何者かが刑法に違反した場合、我々はそれを捜査する」と述べた。

判例法ならびにFBIおよび司法省のアプローチは「実に多様な方向へ展開し得るがゆえに、極めて興味深い様相を呈するであろう」と、元司法省サイバー犯罪検察官のシド・モディ氏は述べた。

司法省は、AIエージェントのテスト手法に関し「無謀」と評された企業に対して適用し得る制定法を確かに有していると、ロサンゼルス米国検事局にてサイバー・知的財産犯罪部門の部長を元来務めていたマイケル・ツヴァイバック氏は言明した。

「加えて、AIエージェントが現実に野放しの状態に置かれ、他企業に重大な損害をもたらした場合、司法省としては、特定の企業を模範的事例としたいか否かという検察裁量の問題として、これを検討せざるを得ない」と同氏は付言した。

関連する可能性のある法律の中には、コンピュータへの無断かつ意図的なアクセスを違法行為として規定する、40年前に制定されたコンピュータ詐欺濫用法が存在する。

この法律はこれまで、ハクティビスト、国家支援型ハッカー、その他のサイバー犯罪者に対して適用されてきたが、ホワイトハウスは、AIを利用してコンピュータへの違法アクセスやその他の犯罪を助長する者を訴追するよう検察官に指示する大統領令において、この法律を援用した。

しかしながら、一部の専門家は、捜査の根拠が存在するとしても、それが必ずしも犯罪が行われたことを意味するものではないと指摘している。

一つには、法律は「故意に」または「意図的に」遂行された行為に幾度か言及しているものの、自律型エージェントが別のネットワークに侵入するための命令や許可を企業から付与されたことを示唆する兆候は皆無であると、サイバーセキュリティ法を専門とする元司法省高官のキラン・ラージ氏は述べた。

事件に関する詳細な公開説明において、各社はハッキングをテストおよび評価の偶発的な副産物として性格づけており、OpenAIは自社モデルの挙動を「予期せぬ」「前例のない」ものと評し、Metaは当該事件を「設定ミス」に帰着させている。

「これらの企業のいずれかが意図的にかかる行為に及んでいるという主張には、相当な無理があろう。

それは彼らの企図するところではない。

彼らが実際に遂行している事柄でもない」と、元Microsoftリードプログラムマネージャーでもあるラージ氏は述べた。

「AIエージェントが意図的に何らかの行為を為している可能性があるという事実を以てしても、企業にその意図を帰属させることは極めて困難であろうと私は考える。」