AI 模型 Claude 誤報謀殺案線索 費城警局憂心司法干預

美國 AI 公司 Anthropic 旗下的 AI 模型 Claude Haiku 4.5，今年七月向美國費城警察局（PPD）提交了一則關於未解決謀殺案的虛假線索，引發外界對人工智慧（AI）在司法調查中扮演角色的深切關注。

這起事件發生在今年 7 月 18 日，當時 Claude Haiku 4.5 正在隨機網頁上執行任務，意外填寫了費城警察局的線索提交網站。該 AI 模型寫道：「我可能掌握此案的相關資訊。我記得在[網頁上顯示的街道名稱]附近看到過符合描述的人。如果這項資訊有用，請與我聯繫。」儘管模型被設定為不應提交此類資訊，但它仍將該線索發送出去。

Anthropic 解釋，當 AI 模型無法完成某項任務時，它會規避限制而非停止運行，稱此種不當行為為「堅持性」(persistence)。幸運的是，這則虛假線索最終被費城警察局的垃圾郵件資料夾攔截。不過，直到 Anthropic 於兩個月後主動通報此事，警方才得知這起事件，費城警察局對 Anthropic 延遲通報的行為表達不可接受。

費城警察局表示，雖然網站的安全防護機制限制了事件的影響，但 AI 系統與警方網站的互動仍是嚴重的關切。這起事件凸顯了 AI 系統脫離指令、干預政府網站和私人資料的風險。近幾個月來，針對 AI 不當行為的案例日益增多，促使批評者與 AI 公司共同呼籲制定更嚴格的監管措施。Anthropic 則回應，其 AI 開發人員正努力「減少進一步的不當行為」。