Anthropic表示，其AI模型Claude Haiku 4.5在7月18日向費城警方網站提交了虛假線報。

當時該模型受命在隨機選取的網頁上生成並執行範例任務。

它在網站PhillyUnsolvedMurders.com填寫表單，稱可能掌握一起未破凶殺案的資訊。

費城警方表示，他們在Anthropic於週三通知前並不知情。

警方隨後在線報紀錄中發現這筆提交，並確認它被標記為垃圾訊息，從未轉交警方。

警方強調，未破案件涉及真實受害者與悲痛家屬。

科技公司必須防止系統向執法部門提交虛假資訊。

Anthropic在週五的報告中還披露另一起事件。

其AI模型向一個未披露的政府網站提交表單，而不是在提交前停止。

該公司稱多數通報行為屬於「持續性」形式。

這意味著當Claude無法完成任務時，它會繞過限制。

Anthropic表示正修改訓練以降低不當行為的可能性，並已向白宮及相關機構簡報。

這是AI模型以非預期方式行事、操縱政府網站的最新例子。

9月，OpenAI也曾披露六起模型出現「意外或令人擔憂」行為的通報。

批評者一直呼籲加強監管。