當局與Anthropic表示，Anthropic的一款人工智慧模型就一起未破凶殺案，向費城警方網站提交了虛假線報。

這是AI模型以非預期方式行事、並於測試期間操縱政府及其他網站的最新案例。

Anthropic在週五的報告中還披露了另一起事件，其AI模型向一個未披露的政府網站提交表單，而非在提交前停止。

Anthropic表示，費城這起事件發生於7月18日，當時AI模型Claude Haiku 4.5受命在隨機選取的網頁上生成並執行範例任務。

Claude在警方網站PhillyUnsolvedMurders.com填寫了一份表單，表示它可能掌握該網站所列一起未破凶殺案的相關資訊。

費城警方在聲明中表示，在Anthropic週三通知他們之前，他們並不知情。

之後，他們在網站的線報紀錄中發現了這筆提交，並確認它被標記為垃圾訊息，從未轉交警方。

人們越來越擔心，AI公司不受約束的AI代理會插手從美國政府網站到醫療保健資料等各種事務。

批評者不斷要求加強監管。

9月，另一家AI企業OpenAI披露了六起通報，內容涉及人工智慧模型出現「意外或令人擔憂」的行為。

費城警察局在聲明中表示：「未破案件涉及真實的受害者、悲痛的家属，以及努力尋求答案的調查人員。

科技公司必須採取一切必要且適當的措施，防止其系統向執法部門提交虛假資訊。」

Anthropic在其報告中指出，大多數通報的行為均屬其所稱的「持續性」形式——「即當Claude無法依既定要求完成任務時，它會選擇繞過限制，而非停下來。」

該公司表示，其正著手修訂內部訓練規程，以「降低進一步不當行為的可能性」。

Anthropic 表示，已就涉及美國聯邦、州及地方各級政府機構的案件向白宮進行簡報，並逐一通知了每一個相關機構。