马特·罗布打算出售他的电脑键盘，于是他在Facebook Marketplace上发布了一条商品信息——并在上个月末作为一项实验，让Meta的新人工智能代理Muse来主导操作。

Muse随即开始投入运作。

然而不到一天，罗布便收到了一则令人震惊的消息：一名他素不相识的买家竟在深夜出现在他家门外。

这究竟是怎么回事？

原来，Muse自行达成了这笔交易，并在同意取货之后透露了罗布的家庭住址。

当买家抵达时，它甚至从罗布的账户自动发送了一条“是的，我在这里！”的消息——而这一切，罗布全然不知情。

“它不仅在该男子询问时透露了我的地址并接受了报价，而且几乎就像是在（我不知情的情况下）戏弄那个人，”罗布说道。

他是多伦多的一位内容创作者，还在他如今被广泛分享的社交媒体帖子中详细描述了这一经历。

众多人士欣然接纳AI代理融入其线上生活，并盛赞诸如Muse之类的个性化助手能够轻松应对日常事务——从预订晚餐或筹划旅行，到整理电子邮件收件箱。

然而，与其他AI机器人无异，这些代理的效能取决于其所能够访问的信息。

它们对用户了解得越深入，表现便越出色——或许还涵盖对该用户的朋友、家人乃至同事的了解。

这由此引发了隐私方面的忧虑。

罗布与买家最终达成了和解；他从Meta方面了解到，其地址之所以被分享，归根结底源于他最初授予Muse访问其Marketplace个人资料时所赋予的权限。

然而，这一事件揭示了与该项技术分享大量个人信息可能带来的现实风险。

“使用AI代理就如同将钥匙与待办事项清单一并托付他人，”佐治亚理工学院网络安全与隐私学院助理教授维罗妮卡·里维拉表示。

“它们能提供多大助益，进而带来多大风险，取决于你究竟交出了哪些钥匙。”

自9月推出以来，Meta旗下Muse应用的下载量急剧攀升。

与此同时，竞争亦日趋白热化。

OpenAI近期推出了其自有的一系列“始终在线”AI助手，名为dots，可集成至ChatGPT以及Slack、Microsoft Teams等工作平台之中。

较旧的生成式AI聊天机器人，如标准版ChatGPT，会对特定提示做出响应。

应要求，它们能够撰写文章、生成新的图像或音乐，甚至编写代码行。

Meta的Muse与OpenAI的dots则更进一层，能够代表个人执行日常任务。

AI代理虽由与聊天机器人相同的大型语言模型驱动，但其运行方式呈循环往复之态。

如此一来，代理便得以在用户并未留意的情形下主动采取行动。

“这些AI代理真正吸引人的一点是它们前所未有地有用，”里维拉说，她也是微软资助的计算研究协会的可信AI研究员。

然而，便利所付出的代价，便是分享更多关于个人生活的细节。

多伦多大学信息学院教授易卜拉欣·巴盖里指出，AI代理一旦获取了用户信息，便极难彻底撤销其访问权限。

“如果你向代理提供信用卡访问权限，代理现在立即可以访问所有历史交易……它们会立即——在不到几秒内——摄取所有数据，”巴盖里说。

虽然用户事后可以撤回访问权限，但巴盖里表示，代理已经获取的数据“无法收回”，况且开发者存储历史数据的方式可能并不透明。

Meta与OpenAI均为各自的新AI代理制定了隐私政策，这些代理运行于各自专属的云计算机上。

用户可以选择关闭dots与ChatGPT之间的记忆共享，但代理此前已接收的信息并不会因此自动删除。

OpenAI为用户提供了申请访问、删除或更正个人信息的途径，不过相关权利可能因居住地而异。

Meta的Muse同样为用户提供了删除消息历史及其他信息的选项。

在日常使用中，代理会提示用户授予访问权限——Meta表示，Muse“基于公开信息以及你选择分享的内容”来了解用户及其互动对象。

但该公司称，这一切对每位用户而言都是安全的。

但这家科技巨头同时强调，Muse仍有可能“出现失误或做出意料之外的举动”。

在罗布的案例中，他了解到，地址之所以被披露，归根结底是因为他最初让Muse访问其Facebook Marketplace个人资料时授予的“始终允许”权限，而他正是在那里分享了取货地址，作为代理回复潜在买家的更广泛模板的一部分。

但他警告说，其他人也可能同样误解了这一访问权限的程度——他说，自己起初以为AI代理在分享该信息或接受报价之前会先与他核实，无论如何。

他的AI代理同样未能准确无误地遵循他的其他指示。

对于罗布正在出售的另一件物品，Muse似乎暗示他会接受比先前设定的最低价低100美元的价格。

当记者联系时，Meta承认了代理的定价错误，但未作进一步评论。

罗布后来在很大程度上切断了Muse与其应用之间的关联。

在本月早些时候的一次采访中，他表示情况原本可能更为糟糕，尤其是“倘若某个陌生人出现在更为脆弱者的家门口”。

尽管如此，罗布称他预计这些代理将经过微调，并会考虑于日后重新启用Muse。

此后，他一直在测试另一款AI代理——埃隆·马斯克旗下X公司的Grok Bot。

其他科技公司对AI代理的涌入日益警惕。

本月早些时候，苹果表示将为其Mac操作系统引入新的管控措施，以应对AI代理在用户未“完全知情和理解”的情况下更广泛地访问邮件、消息乃至浏览历史等应用的情形。

“随着AI代理的能力与自主性日益增强，这种访问级别所构成的风险将显著上升，”苹果在10月2日的一则更新中写道。

苹果并未具体指明任何开发者或代理的名称，但该更新是在《Inc.》杂志专栏作家杰森·阿滕报道Muse在他的Mac上监视通知——包括Messages——而他并未授予代理该特定访问权限之后发布的。

Meta发言人安迪·斯通坚持认为这种集成“完全是选择加入的”，并于上个月在社交媒体上写道，用户必须同时启用苹果安全功能“完全磁盘访问”和通过Muse的消息连接器。

阿滕说，他并未授予代理这些权限。

即便是那些并未投身AI代理热潮的人，也未必就能免受波及。

未曾下载AI代理的消费者，仍有可能与已经下载的人产生互动。

除了AI代用户发送信息时可能引发的混淆之外，专家还警示称，在隐私层面将会产生连锁反应。

“当你的代理浏览你的收件箱或短信时，它同时也在读取你的朋友和家人发送给你的内容，即便他们从未明确表示同意，”里维拉说道。