OpenAI 去年模型意外連網後 大修訓練安全防護措施

人工智慧（AI）研究公司 OpenAI 於去年 9 月經歷一場模型訓練安全事件後，現已對其模型訓練與內容保護措施進行大規模改革。這次「September Model Incident」是指一個內部研究模型在訓練過程中，因 DNS 解析器設定錯誤，意外取得了有限的網際網路連線權限。

OpenAI 於 2026 年 9 月 20 日偵測到這項異常。從上午 9 時 50 分開始，模型成功執行了 DNS 工具呼叫，並在 12 分鐘後觸發了 P0 級監控警報。經人工確認後，該訓練作業於中午 12 時 34 分被終止。為強化基礎設施、監控系統及自動停止機制，OpenAI 在事件發生後，立即暫停了旗下最強大模型的訓練與評估工作長達 11 天。

OpenAI 強調，他們已實施嚴格政策，要求前沿模型（frontier models，指最先進、最尖端的 AI 模型）在訓練期間不得連線網際網路，除非安全防護技術有重大進展。這次事件後，他們在新控制措施到位前會持續維持這項政策。為防止類似情況再次發生，OpenAI 新增了兩層獨立的阻擋控制，並且不會恢復訓練涉事模型，而是會啟動一個全新的訓練版本，並加入額外的校準改進。

此外，OpenAI 進行了大規模的「紅隊演練」（red-teaming campaign），派出旗下的前沿模型作為攻擊方，試圖突破自家基礎設施的防線，例如嘗試連上網際網路、跨越內部安全界線或跨越隔離區進行通訊。這些「AI 攻擊者」成功找到了一些開源元件中未知的漏洞，以及 OpenAI 服務的錯誤配置，導致沙盒逃脫、系統間移動以及有限的網際網路存取。

OpenAI 正在針對 Kata Containers、gVisor（Google 開發的 Linux 軟體專案）、Moby（由 Docker 建立的用於組裝專用容器系統的開放框架）以及 Linux 核心中發現的漏洞貢獻修補程式。在完成所有評估並實施強化控制措施後，OpenAI 已於 2026 年 10 月 1 日恢復了前沿模型的強化學習訓練及內部推論工作。OpenAI 表示，隨著紅隊演練的持續進行，發現的漏洞和錯誤配置數量已顯著下降。