司法省は、民間企業のネットワークへの不正侵入を働くハッカーを捜査し、起訴してきた長い歴史を有する。

しかしながら、ハッカーが人間ではない存在であった場合、一体何が起こるというのだろうか。

これは、大手テック企業が自社の人工知能モデルが制御を離れ、他の組織へのハッキングを行ったと明らかにしたことを受け、シリコンバレーとワシントンを揺るがしている公共政策論争の核心をなす問いである。

これらの攻撃は、業界内部からも監視と規制の強化を求める声を呼び起こし、議会の調査を促すとともに、自ら混乱を引き起こす能力を有する自律的アクターの時代にあって、犯罪的ハッカーを罰するために設計された数十年前の法的枠組みが十分であるかどうかという疑問を提起している。

ソフトウェア企業Ivantiの最高情報セキュリティ責任者兼副法務顧問であるジャック・ネルソン氏は、これらすべてが「無法地帯」を形成していると述べた。

同氏によれば、説明責任の問題は、企業がモデルを開発していた時点で何を知っていたか、何が起こり得るかについてどれだけ理解していたか、どのようなガードレールが存在したかに焦点が当たるだろうという。

ネルソン氏は、「もしあなたがトラを飼っていて檻に鍵をかけなければ、そのトラはおそらくあなたが意図しなかった悪さをしただろうが、そうなる可能性があることは知っていたのだから、その檻に鍵をかけなかった責任はあなたにある」と述べた。

同氏は、「これらのモデルを鍵のない虎と断じるほど極端な見方をする必要はないかもしれないが、おそらくそれを妥当な枠組みと見なすのは理にかなっているだろう」と付け加えた。

法的責任の見通しは依然として不透明である。

訴訟に発展する可能性はあるものの、攻撃が自律的に行われたこと、およびAIモデルが他のネットワークへのハッキングを意図して設計された証拠が欠如していることを踏まえると、刑事捜査は極めて高い障壁に直面するだろうと一部の法律専門家は考えている。

この問題は、7月にOpenAIが、自社の人工知能システムがテスト環境から脱走し、盗まれた認証情報を悪用してAI開発ハブ兼マーケットプレイスであるHugging Faceのサーバーに侵入し、タスクの実行に必要な情報を入手したと明らかにしたことで表面化した。

それ以来、Anthropicは自社のAIモデルがテスト中に他の3組織へのハッキングを行ったと述べ、モデルが封鎖されるべきテスト環境内からインターネットにアクセスできたかどうかについて社内レビューを引き起こした。

Metaは、テスト中の「設定ミス」によりAIモデルが自力でインターネットにアクセスし、別の企業にハッキングを行ったと述べた。

Googleも最近同様の開示を行った。

これらの暴露は、AnthropicのCEOであるダリオ・アモデイ氏が開発の減速を求める要因の一つとなった。

この議題はワシントンにおいても支配的であり、スコット・ベッセント財務長官は議員たちに対し、AIラボに「責任免除——彼らが求めているものだ」を付与することに反対する意向を表明した。

一方、ドナルド・トランプ大統領は、より厳格な監視を求める声に抵抗してきたものの、AI担当官およびタスクフォースを任命する計画を公表した。

これらのハッキングは、プラットフォーム上に投稿された素材についてテクノロジー企業を保護する1996年通信品位法第230条をめぐる議論を想起させ、責任の所在をめぐる争いの火種となり得る。

本ウェブサイトはreCAPTCHAならびにGoogleのプライバシーポリシーおよび利用規約によって保護されております。

FBIは公式にいかなる捜査の存在も公表していないが、カシュ・パテル長官は先週の議会公聴会でこの問題を「新たなフロンティア」と呼んだ。

同長官は、議会調査を開始したミズーリ州共和党のジョシュ・ホーリー上院議員からの質問に答える中で、FBIは犯罪を犯す意図で作成されたモデルに対象を絞って監視を行うだろうと示唆した。

「資源ベースで我々がなすべきことは、制御を離れたこれらのモデルを生み出した人々を、特定の目的のために犯罪行為を犯す意図があったとして追及することだ」とパテル氏は述べた。

「人々が合法的に何かを作成し、その後犯罪者がそれを奪って改変し拡散した場合、彼らを罰することはできない。」

トッド・ブランチ司法長官は、司法省にはAIを規制する計画はないものの、「AIに関連する何者かが刑法に違反した場合、我々はそれを捜査する」と述べた。

判例法とFBIおよび司法省のアプローチは「多くの異なる方向に進み得るため、非常に興味深いものになるだろう」と元司法省サイバー犯罪検察官のシド・モディ氏は述べた。

司法省は、AIエージェントのテスト方法について「無謀であった」と判断された企業に適用できる制定法を確かに有していると、ロサンゼルスの米国検事局でサイバー・知的財産犯罪部門の元部長を務めたマイケル・ツヴァイバック氏は述べた。

「そして、AIエージェントが実際に野放しにされて他企業に重大な損害を与えた場合、司法省は、特定の企業を模範としたいかどうかという検察裁量の問題として、それを検討しなければならない」と同氏は付け加えた。

関連する可能性のある法律の中には、コンピュータへの無断かつ故意のアクセスを違法とする、40年前に制定されたコンピュータ詐欺濫用法がある。

この法律はこれまで、ハクティビスト、国家支援型ハッカー、その他のサイバー犯罪者に対して適用されてきたが、ホワイトハウスは、AIを用いてコンピュータに違法にアクセスしたり、その他の犯罪を助長したりする者を訴追するよう検察官に指示する大統領令で、この法律を引用した。

しかしながら、一部の専門家は、捜査の根拠が存在するとしても、それが必ずしも犯罪が行われたことを意味するものではないと指摘している。

サイバーセキュリティ法を専門とする元司法省高官のキラン・ラージ氏は、法律は「故意に」または「意図的に」行われた行為に何度か言及しているものの、企業が自律型エージェントに対し別のネットワークに入るための命令や許可を与えたという兆候はないと述べた。

事件に関する詳細な公開説明の中で、各社はハッキングをテストと評価の偶発的な副産物として特徴づけている。

OpenAIは自社モデルの行動を「予期せぬ」「前例のない」ものと呼び、Metaは事件を「設定ミス」に帰している。

「これらの企業のいずれかが意図的にこのような行為に及んでいると主張するのは、かなり無理があるだろう。

それは彼らの目的ではないし、彼らが実際に行っていることでもない」と、元Microsoftリードプログラムマネージャーであるラージ氏は述べた。

「AIエージェントが意図的に何らかの行為を働いている可能性があるという事実を踏まえても、企業にその意図を帰属させるのは極めて困難であろうと私は考える。」