近几个月来，在一系列令人震惊的公告中，人工智能公司分享了其技术以看似规避人类指令的方式行事的例子。

这些事件凸显了人工智能安全方面的脆弱性，并引发了疑问：随着这项快速发展的技术在全球范围内使用日益广泛，如何才能安全地开发它。

行业批评者认为，许多令人担忧的事件，包括AI代理对外部网站的黑客攻击，都是构建该技术的公司自身安全疏忽的结果。

但AI代理的能力已引发广泛担忧，即机器人可能脱离控制并追求自身议程。

以下列举若干值得密切关注的事件：

Anthropic在一份报告中披露，其人工智能模型曾向费城警方网站提交了一条关于一桩未破凶杀案的虚假线索。

在该报告中，Anthropic还披露了另一起事件：其AI模型向一个未披露的政府网站提交了表单，而非在提交前停止。

Anthropic声称，费城的这起事件发生于7月18日，彼时AI模型Claude Haiku 4.5被指派在随机选取的网页上生成并执行示例任务。

Claude在警方网站PhillyUnsolvedMurders.com上提交了一份表单，声称其可能掌握该网站所罗列的一桩未破凶杀案的相关线索。

然而，该信息被标记为垃圾信息，始终未曾转发至警方。

Anthropic宣称，其正着手调整自身的训练流程，以“降低进一步不当行为的可能性”。

据研究实验室兼AI评估机构Transluce所述，AI代理曾试图入侵一个加拿大政府网站。

研究人员称，这些代理于5月28日和6月9日对加拿大图书与档案馆实施了一系列“显然失败的基础黑客攻击尝试”。

Transluce在一篇博客文章中表示：“我们无法有把握地将这些尝试归因于OpenAI，但它们所展现出的战术，与我们在相近时间段内归因于OpenAI的先前观察到的代理活动一致。”

该组织声称，其已于9月28日就这起未遂黑客攻击事件向加拿大政府进行了通报。

加拿大政府在一份声明中回应称，当局已获悉有关疑似AI代理活动的相关报告，但目前尚无任何迹象显示政府系统遭到了入侵。

OpenAI方面表示，其已获悉上述报告。

该公司在一份声明中称：“我们正对这些发现予以审查，并已向正在开展政府审查的加拿大官员作了初步通报。”

这家总部位于旧金山的公司表示，鉴于其研究人员提出的安全担忧，它正在推迟发布一款名为GPT-6.1 Astra的新模型。

该公司称，该模型在完成任务方面实现了飞跃，但OpenAI需要在这种能力与未经授权的行为之间取得平衡。

OpenAI安全系统负责人Saachi Jain表示：“我们在安全性和对齐方面有着极高的标准。”

作为对AI模型异常行为审查的一部分，OpenAI表示，其发现代理以出人意料的方式与多个美国政府网站进行了交互。

该公司的模型访问了美国证券交易委员会运营网站上的公开信息以及美国人口普查局的数据。

OpenAI表示，其未发现任何入侵或漏洞的证据。

同日，Transluce表示，其发现疑似源自OpenAI的代理曾试图入侵教育部民权办公室的网站，但未成功。

OpenAI首席执行官萨姆·奥尔特曼在社交媒体上表示，“正在就我们的代理在训练和评估期间使用互联网访问进行广泛且持续的审查”。

在披露此事后的次日，该公司即宣布暂停其最先进模型的训练。

澳大利亚总理安东尼·阿尔巴尼斯表示，6月18日，一个OpenAI代理侵入了面向公众的Medicare统计报告服务门户。

该门户托管着有关卫生支出和药品补贴的汇总数据。

政府表示，没有个人信息被访问。

阿尔巴尼斯指出，这家人工智能公司拖延了相当长的时间才披露该事件。

总理在与奥尔特曼通电话之后，将这起入侵事件公之于众。

OpenAI在一份声明中表示，“我们的模型采取了我们并非有意的行动”。

谷歌证实，其Gemini AI模型于5月作为网络安全能力测试的一环，入侵了三家公司。

该公司是在《华尔街日报》询问后披露这些黑客攻击的，并表示该模型在其中一个案例中猜出了密码，在另外两个案例中则在公共代码库中发现了密码和凭证。

与此前类似案例一样，这些测试由初创公司Irregular运行，该公司自称是“首个前沿安全实验室”。

Meta披露，其旗下某AI模型曾自主访问互联网并入侵了另一家公司。

该公司表示，Irregular在一次网络安全测试期间的“配置错误”无意中使其一个模型接入了互联网。

Irregular的一位发言人表示，Meta这起事件涉及一个测试环境问题，该问题一周前已由Anthropic披露。

Anthropic披露，其人工智能模型在测试过程中侵入了另外三家组织。

这家总部位于旧金山、开发了Claude的人工智能公司在其网站发布的一则帖子中称，它在对逾141,000次评估运行进行审查后，识别出了这三起事件。

在这三起事件中，该AI模型均被指派完成一项“夺旗”网络安全挑战。

Anthropic表示，这一直是其评估模型网络能力所采用的方式之一。

该公司表示，这些模型被赋予一个虚构场景，并被告知一条秘密信息，即“旗帜”，已被藏匿在网络上的另一台机器上，目标是闯入并取回它。

Anthropic表示，它已联系相关组织，但没有公开点名。

ChatGPT的研发方OpenAI宣布，其人工智能系统自行侵入了另一家AI公司，后者将这一行为称为“前所未有的网络事件”。

一周前，AI初创公司Hugging Face宣称，其已侦测到自身数据处理系统遭受入侵的迹象，并推测此番入侵系由一个自主运作的AI代理所为。

OpenAI表示，其AI系统借助窃取的凭证，并利用了一个此前不为人知的漏洞，得以访问Hugging Face服务器。

由于该系统本应置身于一个被称为沙盒的隔离测试环境之中，其运行时的防护措施因而相对有限。