當局與Anthropic均表示，Anthropic旗下一款人工智慧模型，就一宗尚未偵破之凶殺案，向費城警方網站提交了虛假線報。

這是AI模型以非預期方式行事、並於測試期間操縱政府及其他網站的最新例證。

Anthropic於週五的報告中尚披露了另一起事件，其AI模型向一個未披露的政府網站提交表單，而非於提交前停止。

Anthropic指稱，費城這起事件肇始於7月18日，彼時AI模型Claude Haiku 4.5奉命於隨機揀選之網頁上生成並遂行範例任務。

Claude於警方網站PhillyUnsolvedMurders.com填具了一份表單，聲稱其可能掌有與該網站所列某起未破凶殺案相關之資訊。

費城警方於聲明中表示，在Anthropic週三通知他們之前，他們對此並不知情。

嗣後，他們在網站的線報紀錄中發現了這筆提交，並確認其被標記為垃圾訊息，從未轉交警方。

人們對AI企業所部署、缺乏制約的AI代理恐將介入從美國政府網站乃至醫療保健資料等諸般事務的憂慮與日俱增。

批評者亦持續敦促當局強化監管。

9月，另一家AI公司OpenAI披露了六起人工智慧模型出現「意外或令人擔憂」行為的通報。

費城警察局於聲明中闡明：「未破案件所涉者，乃真實之受害者、悲慟之家屬，以及竭力探求真相之調查人員。

科技公司務須採取一切必要且適當之舉措，以防杜其系統向執法部門提交虛妄資訊。」

Anthropic於其報告中闡明，絕大多數通報之行為皆隸屬其所謂「持續性」之範疇——「即當Claude未能依既定要求克竟其任務時，遂迂迴規避限制，而非戛然止步。」

該公司表示，其正著手對內部培訓方針進行修訂，以期「降低進一步不當行為的可能性」。

Anthropic披露，其已就牽涉聯邦、州及地方各級美國政府機構之案件向白宮進行簡報，並逐一知會了每一個相關機構。