マット・ロブはコンピューターのキーボードを売却すべく画策し、Facebookマーケットプレイスへと出品したうえで、先月末には実験的試みの一環として、Metaの新たな人工知能エージェント「Muse」を運転席に座らせた。

Museは起動を果たした。

だが、1日と経たぬうちに、ロブは身の毛もよだつ報せを受け取ることとなった。

深夜、見知らぬ買い手が彼の自宅の外に姿を現したのである。

なぜか？

Museが独断で取引を成立させ、受け取りに応じた末に、ロブの自宅住所を共有していたのだ。

買い手が到着するや否や、ロブのアカウントからは「うん、ここにいるよ！」という自動メッセージすら送信されていた——そのすべてが、ロブの関知せぬうちに進行していたのである。

「相手が尋ねた際に住所を伝えたにとどまらず、オファーにも応諾し、さらには私がそこに居合わせなかったにもかかわらず、まるで相手を愚弄するかのような振る舞いにまで及んだのです」と、トロント在住のコンテンツクリエイターであるロブは述べた。

彼はこの一件を、今や広く共有されるに至っているソーシャルメディアの投稿においても詳らかにしている。

多くの人々がAIエージェントを自らのオンライン生活に迎え入れ、Museのようなパーソナライズされたアシスタントが、ディナーの予約や旅行の計画、メールの受信箱の整理といった日常のタスクを容易に遂行できることを絶賛している。

しかし他のAIボットと同様、エージェントの性能はアクセス可能な情報の如何に左右される。

ユーザー本人について、さらにはその友人の家族や同僚についてさえ多くの情報を把握するほど、エージェントはより優れた働きをする。

それがプライバシー上の懸念を引き起こすのである。

ロブと買い手は最終的に和解に至り、彼は住所の共有が、当初Museへマーケットプレイスのプロフィールへのアクセスを付与した際に許可した権限に起因するものであるとMetaから知らされた。

しかしながらこの出来事は、技術に対して大量の個人情報を共有することによって生じうる現実世界のリスクを浮き彫りにしていた。

「AIエージェントを活用するとは、すなわち誰かに鍵とやることリストを手渡すことに他ならない」と、ジョージア工科大学サイバーセキュリティ・プライバシー学部の准教授であるベロニカ・リベラは語る。

「それがいかに有用であり、ひいてはどれほど危険であり得るかは、どの鍵を委ねるかによって規定されるのである」

9月のローンチ以来、MetaのMuseアプリのダウンロード数は急増の一途をたどっている。

競争は激化の度を深めるばかりだ。

OpenAIは最近、「常時稼働」のAIヘルパー「dots」のラインナップを展開し、ChatGPTやSlack、Microsoft Teamsといった職場プラットフォームへの統合を可能にした。

ChatGPTの標準版に代表される従来型の生成AIチャットボットは、特定のプロンプトに対して応答を返す。

ユーザーの要請に応じ、エッセイの執筆、新規画像や楽曲の生成、あるいはコード行の記述に至るまでを遂行し得るのである。

MetaのMuseとOpenAIのdotsはさらに一歩を踏み出し、人間に代わって日々のタスクを遂行する。

AIエージェントはチャットボットと同一の大規模言語モデルによって駆動されるものの、ループ状の動作様式を採る。

これによりエージェントは、ユーザーが注視していなくとも先回りして行動することが可能となる。

「これらのAIエージェントを真に魅力的たらしめている要素の一つは、かつてないほど有用であるという点にほかなりません」と、Microsoftの資金提供を受けるComputing Research AssociationのTrustworthy AI Research Fellowの任にもあるリベラは述べた。

しかしながら、その利便性は、自らの生活に関してより一層多くの詳細を共有することを余儀なくされるという代償を伴うものである。

トロント大学情報学部教授エブラヒム・バゲリの指摘によれば、AIエージェントがひとたびユーザーの情報を取得してしまったが最後、そのアクセスを完全に撤回することは著しく困難を極めるという。

バゲリは次のように述べた。「エージェントにクレジットカードへのアクセス権を付与すれば、エージェントは瞬時にして過去の取引履歴のすべてにアクセス可能となる……彼らは即座に——ほんの数秒のうちに——そのデータの一切を吸い上げてしまう」。

ユーザーは事後にアクセス権を撤回し得るものの、エージェントが既に閲覧したデータを「取り戻すことは不可能である」とバゲリは指摘し、開発者が履歴データをいかなる方針で保管するかについては不透明となり得る。

MetaとOpenAIはともに、それぞれ専用のクラウドコンピューター上で稼働する新規AIエージェントのプライバシーポリシーを明示している。

dotsとChatGPT間のメモリ共有は無効化できるものの、エージェントが以前に受領した情報が自動的に削除されるわけではない。

OpenAIはユーザーに対し、個人情報へのアクセス、削除、訂正を請求する選択肢を提供しているが、当該権利は居住地によって異なりうる。

MetaのMuseもまた、メッセージ履歴をはじめとする各種情報を削除するオプションをユーザーに提供している。

日常的な使用の場面においては、エージェントがユーザーに対してアクセス権限を要求する——そしてMetaは、Museがユーザーやその人がやり取りする相手について「公開情報と、あなたが共有を選んだ内容に基づいて」学習すると述べている。

とはいえ同社は、それらはすべて各ユーザーにとって安全に保たれるとしている。

とはいえ、このテック大手はなおも、Museが「過ちを犯したり、予期せぬ挙動を示したりする」可能性を否定しきれないとも付言している。

ロブの場合、住所が開示されたのは、最初にMuseをFacebookマーケットプレイスのプロフィールに許可した際に付与した「常に許可」の権限に起因するものだと、彼は知ることとなった。

そこでは、見込み買い手に応答するためのエージェント向けの広範なテンプレートの一環として、受け取り住所が共有されていたのである。

しかし彼は、他の人々も同様にそのアクセスの範囲を誤解する恐れがあると警告を発し、当初は、AIエージェントが当該情報を共有したりオファーを承諾したりする前に、いずれにせよ自分に確認を取るものだと認識していたと述べた。

彼のAIエージェントは、残りの指示もまた過ちなく遵守したわけではなかった。

ロブが販売していた別の商品について、Museは以前に設定された最低価格を100ドル下回る価格を受け入れる旨を示唆したようであった。

記者の問い合わせに対し、Metaはエージェントの価格設定上の誤りを認めたものの、それ以上のコメントは差し控えた。

ロブはその後、Museを自身のアプリからほぼ完全に切り離すに至った。

今月前半のインタビューで彼は、とりわけ「もし何か見知らぬ人が、より脆弱な人の家に現れたとしたら」、事態はなおさら悪化しえたと語った。

それにもかかわらずロブは、こうしたエージェントは調整が進むにつれて改善されるものと期待しており、将来的にMuseを再び有効化することを検討するだろうと述べた。

彼はその後、別のAIエージェント——イーロン・マスクのXによる「Grok Bot」——を試している。

他のテック企業各社は、AIエージェントの流入に対する警戒を一層強めている。

今月前半、Appleは、AIエージェントがユーザーの「完全な知識と理解」を伴わずにメールやメッセージ、さらには閲覧履歴といったアプリへ広範にアクセスする事態に対処すべく、Macオペレーティングシステムに新たな制御機能を導入すると発表した。

「AIエージェントがますます高性能化し自律性を高めていくにつれ、このレベルのアクセスに付随するリスクは著しく増大することになるであろう」とAppleは10月2日の更新において記した。

Appleは特定の開発者やエージェントを名指しすることはなかったものの、この更新は、Inc. Magazineのコラムニストであるジェイソン・アテンが、Museが彼のMac上の通知——メッセージを含む——を、当該エージェントにその特定のアクセス権を付与していないにもかかわらず監視していたと報じたことを受けて発表された。

Metaの広報担当アンディ・ストーンは、そうした統合は「完全にオプトイン」であるとの立場を堅持し、先月ソーシャルメディア上で、ユーザーはAppleのセキュリティ機能「フルディスクアクセス」とMuse経由のメッセージコネクタの双方を有効化する必要があると投稿した。

これに対しアテンは、エージェントにはそれらの権限を付与していないと述べた。

AIエージェントの流行に与しない人々と雖も、必ずしも保護の埒内にあるとは限らない。

AIエージェントをダウンロードしない消費者であっても、ダウンロードした他者とやり取りする可能性は否めない。

加えて、AIがユーザーの代理としてメッセージを送信する際に生じ得る潜在的な混乱に加え、専門家らはプライバシーに関する波及効果について警鐘を鳴らしている。

リベラは次のように述べた。

「あなたのエージェントが受信箱やテキストを閲覧する折、それはすなわち、友人や家族があなた宛てに送った内容までもが読まれているということにほかならない。

たとえ彼らがそれに対して明示的に同意を寄せていなくとも」