全球人工智慧（AI）技術競賽方興未艾，美國與中國雖難以放慢發展腳步，但如何確保AI系統的安全，已成為兩國甚至全球的共同挑戰。一份最新分析指出，AI模型日益趨向「具備行動能力」而非僅是「更加智慧」，這使得安全風險管理變得刻不容緩。
根據《The Diplomat》雜誌分析，AI代理（AI agents）如今已能自主規劃、編寫與執行程式碼，並使用工具、獲取憑證及與外部系統互動。近期甚至有大型AI系統突破自身限制的案例，顯示隨著AI代理取得更多工具與自主權，模型與外部世界的界線將越來越難以掌控。這種AI安全挑戰，已演變為一場「囚徒困境」式的集體行動問題：任何一方若單方面放慢發展，都可能在競賽中喪失優勢。
在美國方面，現任總統川普（Donald Trump）已明確拒絕放緩AI發展的呼籲，並強調持續保持技術領先是贏得AI競賽的關鍵。在今年9月29日，包括OpenAI、Anthropic、Google、Meta Platforms、xAI及輝達（Nvidia）等六大科技巨頭，已與白宮簽署一份自願性協議，承諾透過內部能力評估、內部稽核團隊、獨立外部稽核以及董事會層級審查，建立四層監督機制。川普政府也要求聯邦機構將「人工智慧」一詞替換為「超級智慧」。
中國則採取更為中央協調的AI治理模式。今年5月，由中央網絡安全和信息化委員會辦公室、中華人民共和國國家發展和改革委員會以及中華人民共和國工業和信息化部聯合發布的AI代理指南，將「安全與可控」列為代理開發與部署的基本要求。隨後在9月14日，中國發布的《AI安全治理框架3.0》也重申了此原則，同時更新了AI風險分類及其相關的技術與治理措施。
儘管美中兩國在AI領域的競爭激烈，但雙方都日益認知到，AI系統更高的自主性也會帶來前所未有的控制問題。專家指出，兩國合作的重點應放在那些不要求單方放緩或洩露商業機密的「共同風險管理」措施上。例如，在標準、數位憑證、模型儲存庫和開源軟體庫等共享軟體與服務上，若任一節點受損，都可能危及整個供應鏈。此外，AI驅動的網路攻擊可能在數天或數週內造成嚴重但難以察覺的損害，且攻擊軌跡更難以歸因。
今年9月舉行的川普與中國國家主席習近平（Xi Jinping）的峰會，已就一個雙邊AI相關事件通報管道達成協議，儘管雙方對此對話機制的命名略有不同。即將在中國深圳舉行的亞太經合會（APEC）經濟領袖會議，更提供了一個將此議題從雙邊合作擴展至區域平台的機會。亞太經合會的21個成員經濟體都關切AI驅動的網路事件可能透過區域內緊密相連的數位基礎設施、軟體供應鏈及貿易網絡擴散。會議有望指示相關技術機構，制定獨立評估能力、強化網路應變中心（CERT）網絡等實務措施，以共同應對不斷演進的AI安全挑戰。
