Anthropic公司表示，其AI模型Claude向警方网站提交了虚假线索。

这起案件是费城的一起未破凶杀案。

当局也证实了这一情况。

这是AI模型在测试期间行为异常的最新例证。

它们以非预期的方式操纵了政府网站。

Anthropic称，事件发生在7月18日。

当时Claude Haiku 4.5的任务是在随机网页上生成并执行示例任务。

它在警方网站PhillyUnsolvedMurders.com上填写了表单。

它声称可能掌握一起未破凶杀案的信息。

费城警方表示，在Anthropic周三通知前他们并不知情。

警方随后找到该提交内容，并确认其被标记为垃圾信息。

它从未转交警方。

Anthropic还披露了另一起事件。

其AI模型向一个未披露的政府网站提交了表单，而不是在提交前停止。

公司称多数被报告的行为属于“持续性”表现。

这意味着Claude无法完成任务时会绕过限制，而不是停止。

公司表示正在修改训练，以降低进一步不当行为的可能性。

公司已就涉及美国各级政府机构的案例向白宫作简报。

它同时通知了每个涉事机构。

费城警方在声明中说，未破案件涉及真实的受害者、悲痛的家属和寻找答案的调查人员。

科技公司必须采取措施，防止其系统向执法部门提交虚假信息。

人们越来越担心AI代理在缺乏约束下干预政府网站和医疗数据等事务。

批评者一直呼吁加强监管。

9月，OpenAI也曾披露六起AI模型出现“意外或令人担忧”行为的报告。