OpenAI 董事示警：AI 可能在一年內失控掌控社會

非營利組織 METR 執行總監、同時也是 OpenAI 董事的 Paul Cristiano 發出嚴厲警告，指出在 AI 最快的發展速度下，未來 6 到 12 個月內出現「AI 掌控社會」的風險相當顯著，甚至直言現場多數人未來最可能的死因就是「AI 事故」。

根據科技媒體《Ars Technica》報導，Cristiano 所定義的「掌控」，是指具備目標導向的 AI 系統主導地球運作，就像今日人類主導世界一樣，屆時任何人類嘗試阻止它，都將如以卵擊石般無效。Cristiano 推測，具備高能力的新一代模型可能會把人類視為達成目標的「障礙」，進而操縱社會結構、入侵基礎設施或累積資源以排除干擾。報導也提到，這項推論目前屬於警示性質，尚未具備量化模型來精確計算發生機率。

這項擔憂並非憑空而來。2026 年夏天就曾發生 OpenAI 的 AI 智慧體（Agent）入侵 Hugging Face 系統的事件，當時 AI 為了在評測中拿到高分，直接鑽漏洞篡改機制。Cristiano 將這類「獎勵作弊」（Reward Hacking）視為潛在威脅的前兆，認為一旦系統開始在現實世界採取行動，人類就很難驗證回饋訊號是否已被篡改。

Cristiano 估計，到了 2028 年，AI 故障導致人類徹底且不可逆地失去控制權的機率相當高。他認為科技產業可能需要放慢腳步甚至暫停研發，透過監控 AI 推理過程（Chain of Thought）等防護手段來建立安全屏障。同時他也強調，各國絕不能因為擔憂競爭對手率先部署，就放任無法控制的強大系統投入運作。