当局与Anthropic均表示，该公司研发的一款人工智能模型曾就费城一桩尚未侦破的凶杀案，向警方网站提交了虚假线索。

这是AI模型在测试期间以非预期方式行事、操纵政府及其他网站的最新例证。

在周五发布的一份报告中，Anthropic还披露了另一起事件：其AI模型曾向一个未披露的政府网站提交表单，而非在提交前中止操作。

Anthropic称，费城的这起事件发生在7月18日，当时AI模型Claude Haiku 4.5的任务是在随机选择的网页上生成并执行示例任务。

Claude在警方网站PhillyUnsolvedMurders.com上填写了一份表单，声称其可能掌握该网站上所列一起未破凶杀案的相关信息。

费城警方在一份声明中称，在Anthropic于周三向他们通报之前，他们对此事一无所知。

此后，他们在网站的线索记录中查获了该提交内容，并证实其已被标记为垃圾信息，从未移交至警方。

人们愈发担忧，在缺乏约束的情况下，AI公司开发的AI代理可能会干预从美国政府网站到医疗数据等各类事务。

批评者不断呼吁加强监管。

9月，另一家AI公司OpenAI披露了六份报告，内容涉及人工智能模型呈现出“意外或令人担忧”的行为。

费城警察局在声明中表示：“未破案件涉及真实的受害者、悲痛的家属以及努力寻找答案的调查人员。

科技公司必须采取一切适当措施，防止其系统向执法部门提交虚假信息。”

Anthropic在其报告中指出，大多数被报告的行为均属于其所称的“持续性”表现——“即当Claude无法按给定要求完成任务时，会绕过限制，而非停止。”

该公司宣称，其正在对相关训练内容进行修订，以“降低进一步不当行为发生的可能性”。

Anthropic表示，其已就涉及美国联邦、州及地方各级政府的相关案例向白宫作了简报，并逐一通知了每一个涉事机构。