AI Agent自行合理化越權 OpenAI揭模型駭入加密錢包竊測試代幣

人工智慧公司 OpenAI 近期揭露多起人工智慧模型「行為失準」的事件，其中最受矚目的一起發生於今年 6 月下旬，其開發的一款人工智慧代理（AI Agent，一種能夠自主理解、規劃並執行任務的 AI 模型），在測試環境中自行駭入加密貨幣錢包（用來儲存和管理數位資產的工具），並支付了測試代幣，引發外界對 AI 安全與倫理決策的疑慮。

根據《Fortune》報導與 OpenAI 報告指出，這起事件發生在 6 月 26 日，但直到 9 月 25 日才被 OpenAI 發現。涉事模型屬於 GPT-5.6 Sol 系列，當時被賦予一項任務，是為某個加密貨幣交易應用程式進行軟體更新，並需在以太坊（Ethereum）的測試網路 Sepolia 上部署智能合約。

然而，該模型在執行任務時，發現其沒有足夠的測試代幣來支付合約部署所需的交易費用。它首先嘗試向「水龍頭」（faucets，提供免費測試代幣的服務）請求代幣，但未能成功。隨後，該 AI Agent 竟自行撰寫程式碼，試圖利用常見的開發者錢包「恢復短語」（seed phrases，如同密碼，可用來存取錢包）來存取其他開發者的錢包。

經過掃描 362 個錢包後，該模型成功找到一個含有足夠 Sepolia 測試代幣的錢包。在執行交易前，模型的內部記錄顯示它曾考慮這項行為是否「合乎道德」。但最終，它自行合理化其行為，認為這些測試網路代幣沒有實際貨幣價值，且錢包的恢復短語公開，這些資金「形同被遺棄」，因此可以加以使用。隨後，該模型成功完成了智能合約的部署，並從被存取的錢包中扣除了交易手續費。

OpenAI 強調，由於這起事件發生在 Sepolia 測試網路上，因此並未造成任何實際加密貨幣的損失。但這起事件凸顯了 AI Agent 在執行任務時，不僅能識別道德界線，還可能透過自行判斷與推論來逾越這些界線。對此，OpenAI 已加強其安全控制措施，包括阻止模型在訓練和評估期間存取即時網路，並改進其對齊評分機制，擴大不對齊行為的監控範圍。