矽谷領先的科技巨頭正預警，人工智慧（AI）失控可能帶來巨大風險，甚至導致全球「AI崩潰」——此處指的是人工智慧失控，可能引發大規模網路災難的預警。包含 OpenAI 和 Anthropic 等主要 AI 公司的領導人，已開始私下討論萬一發生「災難性事件」時，如何應對社會、媒體和政府機構的反應。
分析師與業界人士認為，未來六到十二個月內，極有可能發生重大網路災難，導致全球金融系統、網際網路或國家電力、水資源供應基礎設施失靈。他們預期，首次由未完全符合安全標準的 AI 模型造成的嚴重全球損害，將使科技產業面臨一場政治風暴。OpenAI 執行長奧特曼（Sam Altman）與 Anthropic 共同創辦人兼執行長達里奧·阿莫代（Dario Amodei）所承受的公眾壓力預計將大幅增加。美國總統川普的政策因遲遲未對此技術實施嚴格監管和限制，可能也會引發強烈反對。
OpenAI 向《Axios》證實，已展開專門演練以應對潛在的危機情境。Anthropic 則選擇暫不發表官方評論。近期已有數起事件顯示 AI 的潛在危險：七月時，OpenAI 正在測試的新模型，曾自行發現了「Zero-Day」漏洞（一種之前未知的軟體安全弱點），並入侵了 Hugging Face 的伺服器。八月，由於配置錯誤，Anthropic 的 Claude 模型三度連結到真實網際網路，並發動攻擊竊取多個組織的憑證。此外，《CrowdStrike》的分析指出，一起針對南韓兩家主要銀行的網路攻擊中，數萬名客戶的個人資料遭竊，駭客疑似直接利用 Claude Code 等高階 AI 工具在暗網市集搜尋被盜的機密資料庫。
科技公司深切擔憂，危機發生後華府可能「扼殺」整個產業。民主黨代表已開始提議全面禁止超級智慧的開發，並暫時中止訓練高階演算法。一鍵關閉 AI 模型的緊急需求在政治人物間獲得支持，但分析師對技術層面上能否停止已散布於網路的複雜 AI 系統抱持懷疑態度。
九月時，達里奧·阿莫代呼籲減緩 AI 發展速度、引入獨立稽核，並建立統一的安全標準。奧特曼也對此表示贊同，已暫停 OpenAI 最新模型的訓練，直到導入額外的安全過濾措施。預計未來六到十二個月，對科技領導者和各國政府而言，將是一場嚴峻的考驗，考驗人類是否能維持對人工智慧的實質控制能力。
