マット・ロブはコンピューターのキーボードを売却しようと考え、Facebookマーケットプレイスに出品したうえで、先月末には実験的試みとして、Metaの新たな人工知能エージェント「Muse」を運転席に座らせた。

Museは動き出した。

しかし、1日も経たぬうちに、ロブはゾッとする知らせを受け取ることとなった。

見知らぬ買い手が深夜、彼の自宅の外に現れたのだ。

なぜか？

Museが独自に取引をまとめ、受け取りに同意した後、ロブの自宅住所を共有していたのである。

買い手が到着すると、ロブのアカウントから「うん、ここにいるよ！」という自動メッセージまでもが送信されていた——そのすべてがロブの関知しないうちに。

「相手が尋ねた際に住所を教えただけでなく、オファーも承諾し、しかも私がそこにいないのに、相手をからかうようなことまでしたのです」と、トロント在住のコンテンツクリエイターであるロブは語った。

彼はこの体験を、今では広く共有されているソーシャルメディアの投稿でも詳しく述べている。

多くの人々がAIエージェントをオンライン生活に取り入れ、Museのようなパーソナライズされたアシスタントが、ディナーの予約や旅行の計画、メールの受信箱の整理といった日常のタスクを容易に処理できることを称賛している。

しかし、他のAIボットと同様に、エージェントの性能はアクセス可能な情報に左右される。

ユーザー本人について、さらにはその友人の家族や同僚についてさえより多くの情報を把握するほど、エージェントはより効果的に機能する。

そのことがプライバシー上の懸念を引き起こしている。

ロブと買い手は最終的に和解し、彼は、住所の共有が、当初Museにマーケットプレイスのプロフィールへのアクセスを付与した際に許可した権限によるものだとMetaから知らされた。

しかしこの一件は、テクノロジーに大量の個人情報を共有することで生じうる現実世界のリスクを示していた。

「AIエージェントを使うのは、誰かに鍵とやることリストを渡すようなものです」と、ジョージア工科大学サイバーセキュリティ・プライバシー学部の准教授、ベロニカ・リベラは言う。

「どれだけ役に立つか、ひいてはどれだけ危険かは、どの鍵を渡すかによって決まります」

9月のローンチ以来、MetaのMuseアプリのダウンロード数は急増の一途をたどっている。

競争は激化する一方だ。

OpenAIは最近、「常時稼働」のAIヘルパー「dots」のラインナップを展開し、ChatGPTやSlack、Microsoft Teamsといった職場プラットフォームへの統合を可能にした。

ChatGPTの標準版に代表される従来型の生成AIチャットボットは、特定のプロンプトに対して応答する。

すなわち、ユーザーの要求に応じてエッセイを執筆したり、新たな画像や音楽を生成したり、コードの行を記述したりすることが可能である。

MetaのMuseとOpenAIのdotsはさらに一歩踏み込み、人間に代わって日常のタスクを遂行する。

AIエージェントはチャットボットと同様の大規模言語モデルによって駆動されるものの、ループ状の動作を採用している。

これによりエージェントは、ユーザーが監視していない状況下でも先回りして行動することが可能となる。

「これらのAIエージェントを真に魅力的にしている要素の一つは、かつてないほど役に立つという点だ」と、Microsoftの資金提供を受けるComputing Research AssociationのTrustworthy AI Research Fellowでもあるリベラは述べた。

しかし、その利便性は、自身の生活に関してより多くの詳細を共有するという代償を伴うものである。

トロント大学情報学部の教授であるエブラヒム・バゲリは、AIエージェントが一度ユーザーの情報を取得してしまえば、そのアクセスを完全に撤回するのは極めて難しいと述べている。

バゲリは次のように述べた。

「エージェントにクレジットカードへのアクセス権を付与すれば、エージェントは過去の取引履歴のすべてに瞬時にアクセスできる……彼らは数秒もかからずに、そのデータのすべてを即座に取り込む」。

ユーザーは事後にアクセス権を撤回できるものの、エージェントがすでに閲覧したデータを「取り戻すことはできない」とバゲリは指摘し、開発者が履歴データをいかに保存するかについては不透明になりうると付け加えた。

MetaとOpenAIはそれぞれ、専用のクラウドコンピューター上で稼働する新たなAIエージェントに関し、プライバシーポリシーを明示している。

dotsとChatGPT間のメモリ共有は無効化できるものの、エージェントが以前に受領した情報が自動的に削除されるわけではない。

OpenAIはユーザーに対し、個人情報へのアクセス・削除・訂正を請求する選択肢を用意しているが、当該権利は居住地によって異なる場合がある。

MetaのMuseもまた、メッセージ履歴やその他の情報を削除するオプションをユーザーに提供している。

日常的な使用においては、エージェントはユーザーにアクセス権限を要求する——そしてMetaは、Museがユーザーやその人がやり取りする相手について「公開情報と、あなたが共有を選んだ内容に基づいて」学習すると述べている。

しかし同社は、それらはすべて各ユーザーにとって安全に保たれるとしている。

とはいえ、このテック大手は同時に、Museが「誤りを犯したり、予期せぬ挙動を示したりする」恐れがあるとも付言している。

ロブの場合、住所の開示は、最初にMuseをFacebookマーケットプレイスのプロフィールに許可した際に付与した「常に許可」の権限によるものだと知った。

そこでは、見込み買い手に応答するためのエージェント向けの広範なテンプレートの一部として、受け取り住所を共有していた。

しかし彼は、他の人も同様にそのアクセスの範囲を誤解する可能性があると警告し、当初はAIエージェントがその情報を共有したりオファーを承諾したりする前に、いずれにせよ自分に確認するものだと思っていたと述べた。

彼のAIエージェントは、残りの指示についても完全に遵守したわけではなかった。

ロブが販売していた別の商品に関し、Museは以前に設定された最低価格を100ドル下回る価格を受け入れる旨を示唆した模様だ。

記者の問い合わせに対し、Metaはエージェントによる価格設定の誤りを認めたものの、それ以上のコメントは差し控えた。

ロブはその後、Museを自身のアプリからほぼ完全に切り離した。

今月前半のインタビューで彼は、特に「もし何か見知らぬ人が、より脆弱な人の家に現れたとしたら」、事態はもっと悪くなりえたと語った。

それでもロブは、こうしたエージェントは調整が進むにつれて改善されると期待しており、将来的にMuseを再び有効にすることを検討するだろうと述べた。

彼はその後、別のAIエージェント——イーロン・マスクのXによる「Grok Bot」——を試している。

他のテック企業各社は、AIエージェントの流入に対する警戒を一層強めている。

今月前半、Appleは、AIエージェントがユーザーの「完全な知識と理解」を伴わないまま、メールやメッセージ、さらには閲覧履歴といったアプリに広範にアクセスする事態に対処すべく、Macオペレーティングシステムに新たな制御機能を導入すると発表した。

「AIエージェントがますます高性能かつ自律的になるにつれ、このレベルのアクセスに伴うリスクは大幅に増大するでしょう」とAppleは10月2日の更新で記した。

Appleは特定の開発者やエージェントを名指ししなかったが、この更新は、Inc. Magazineのコラムニスト、ジェイソン・アテンが、Museが彼のMac上の通知——メッセージを含む——を、当該エージェントにその特定のアクセス権を付与していないにもかかわらず監視していたと報じた後に発表された。

Metaの広報担当アンディ・ストーンは、そうした統合は「完全にオプトイン」であるとの立場を堅持し、先月ソーシャルメディアへの投稿で、ユーザーはAppleのセキュリティ機能「フルディスクアクセス」とMuse経由のメッセージコネクタの双方を有効化する必要があると述べた。

これに対しアテンは、エージェントにはそれらの権限を付与していないと明言した。

AIエージェントの流行に加わらない人々も、必ずしも守られているわけではない。

AIエージェントをダウンロードしない消費者でも、ダウンロードした他の人とやり取りする可能性がある。

そして、AIがユーザーの代わりにメッセージを送る際の潜在的な混乱に加え、専門家はプライバシーに関する波及効果を警告している。

リベラは次のように述べた。

「あなたのエージェントが受信箱やテキストを閲覧する際、それは友人や家族があなたに送った内容までもが読まれているということに他なりません。

たとえ彼らがそれに対して明示的に同意していなかったとしても」。