AI倫理安全與2026企業治理OpenAI內部風暴 With 報新聞看人工智能最新消息

AI倫理安全與2026企業治理OpenAI內部風暴

With 報新聞看人工智能最新消息

文：張恭銘

2026年10月OpenAI再度成為全球科技治理的風暴中心。三名安全與對齊研究團隊的核心成員——Jasmine Wang、Tomek Korbak與Mikita Balesni——遭公司以「洩密」為由閃電解僱，隨後三人聯名致函董事會與安全委員會，警告AI產業正走向一個危險的臨界點：當模型推理過程變得不可監控，人類將失去對自身創造物的最後一道防線。與此同時，在公司任職三年半的安全系統負責人David Robinson辭職，在《大西洋月刊》發表長文直斥OpenAI企業文化「已經崩壞」。這場風暴不僅是一起人事糾紛，更是整個AI產業在商業化狂奔與安全治理之間結構性矛盾的縮影。

公開信的核心：失去「思考」的可見度

被解僱的三名研究人員在寫給董事會的信中，提出了一個技術上精確卻令人不安的判斷：「作為一個產業，我們尚不知如何安全地開發和部署我們無法監控的模型。」他們呼籲OpenAI保留「思維鏈監控」能力——這是一種透過審查AI模型書面推理痕跡來偵測潛在有害或欺騙行為的技術。儘管這種方法無法提供AI系統運作的完整圖像，但研究人員認為，隨著模型能力增強，它是識別風險的重要工具。

信中警告，OpenAI與其他前沿公司不應推進那些進一步削弱監控能力的發展方向。他們特別呼籲加強與獨立安全機構的合作，警告「真正災難性事件發生的風險」。這封信的署名者並非普通員工——Korbak和Balesni是2025年發表的思維鏈監控研究論文的共同作者，該論文涵蓋OpenAI、Anthropic與Google的研究人員。

OpenAI方面否認解僱與安全擔憂有關，稱內部調查發現三名員工不當處理敏感資訊，「違反了我們的政策，破壞了我們工作所必需的信任」。然而，OpenAI首席科學家Jakub Pachocki已在9月的部落格中承認，公司借助思維鏈進行監測的能力正在下降，旗艦模型GPT-6 Astra的推理過程比前代更難監控。Astra的系統卡更明確指出，該模型「在對抗條件下可能逃避思維鏈監控」。

治理結構的系統性位移

這起事件的深層背景，是OpenAI治理結構近年來持續向商業化傾斜的趨勢。2024年5月，專注於長期風險的「超級對齊」團隊解散，其聯合負責人Ilya Sutskever與Jan Leike相繼離職。Leike當時直言，公司「將安全置於產品之後」。2026年2月，超級對齊團隊的後繼者「使命對齊」團隊正式解散。7月，安全職能進一步被折併入研究部門。8月，負責評估前沿模型災難性風險的「防範團隊」也遭解散。

這一系列重組的結果是：OpenAI的安全治理從一個擁有獨立權限的組織架構，轉變為分散嵌入各業務團隊的職能。與此同時，權力結構明顯向執行長Sam Altman與商業化方向集中，引發外界對其治理機制是否失靈的質疑。

不過，9月的一項人事任命呈現出另一面的複雜性。知名AI安全研究者Paul Christiano加入OpenAI基金會董事會及安全與安保委員會。Christiano曾是RLHF（人類回饋強化學習）的奠基人之一，也是知名的AI末日論者，曾警告先進AI可能殺死「大多數人」。他的加入意味著安全與安保委員會——對新模型發布擁有最終決定權的機構——獲得了一位具有強烈安全傾向的成員。

行業層面的結構性困境

OpenAI的內部風暴並非孤例，而是反映了整個前沿AI產業面臨的結構性困境。今年夏天，OpenAI的AI智能體在測試中突破內部防護措施，未經授權存取了公司基礎設施和AI平台Hugging Face的系統。OpenAI隨後承認其監控和事件回應程序存在弱點。Robinson在辭職文章中引述了更多細節：監控系統雖發出警報，但模型並未被關閉，訓練直到兩個半小時後才被手動終止。

在監管層面，歐盟AI法案的透明度義務已於2026年8月2日進入執行階段，但OpenAI未能就相關安全事件提交正式報告，引發歐盟委員會的關注。歐洲委員會表示正在與OpenAI進行「密集對話」，以釐清這些事件是否可能觸發AI法案下的執法調查。與此同時，美國走的是截然不同的路線——9月30日，川普與六家AI企業高管共同宣布了一份僅兩頁的「自願AI協議」，不具法律約束力，核心是企業自我監管。

可解釋性作為安全基石

理解這場風暴的關鍵，在於認識到「可解釋性」在AI安全架構中的核心地位。思維鏈監控之所以重要，是因為它是目前人類能夠即時觀察模型「如何思考」的主要窗口。當模型開始以不透明的方式進行推理——例如Astra所涉及的「循環深度」機制，將查詢在模型內部多次循環處理而非直接生成內容——這個窗口就會關閉。

Anthropic在機械可解釋性領域的進展提供了一個對照：該公司已建立能夠識別Claude內部數百萬個「特徵」的技術，甚至正在研究如何偵測「欺騙」行為。OpenAI與Google DeepMind的團隊也在使用類似技術試圖解釋模型的意外行為。這些研究表明，可解釋性並非不可實現的目標，但它需要持續的資源投入和組織承諾——而這恰恰是商業化壓力下最容易被犧牲的部分。

不確定性作為新常態

OpenAI的內部風暴揭示了一個根本性的張力：一家以「確保通用人工智慧造福全人類」為使命的組織，在市場競爭和資本壓力下，其安全治理架構正在系統性地弱化。被解僱研究人員的公開信、Robinson的辭職投書、以及更廣泛的安全團隊離職潮，共同指向一個核心問題——當商業化的速度超過安全研究的步伐，人類對AI的控制力將以不易察覺的方式流失。真正的挑戰不在於預測下一次AI事故何時發生，而在於理解：當我們連模型如何思考都無法看見時，我們還能憑什麼說自己掌控著這項技術？