人工智慧（AI）治理正從單純的風險控管，轉變為推動技術創新與大規模應用的關鍵。根據 Flexera 發布的報告指出，儘管高達 87% 的領導者已投入或正在試點內部 AI 軟體開發計畫，但其中有 72% 的人遭遇進度停滯的挑戰，主要癥結點在於「Shadow AI」（指員工在未經組織正式監管下，自行開發或使用的 AI 工具與應用程式）。
Flexera 提到，高達 93% 的高階主管認為，建立健全的治理框架對於員工安全開發內部 AI 軟體至關重要，而目前有 45% 的組織並不清楚員工如何或何時使用 AI。AI 治理（指管理 AI 使用的政策、流程與問責結構）已不僅是防範風險，更提供了企業在 AI 發展中所需的透明度與問責制，以利 AI 專案能自信推進。企業也正更新其治理框架，以應對 AI 帶來的複雜性。
在國家層級，Scale AI 執行長 Francis De Souza 呼籲美國聯邦政府應強化其 AI 測試與評估（T&E）能力。他強調，AI 的測試與評估並非一次性的行為，而應是涵蓋整個模型生命週期的分層評估和緩解策略，包括從實驗室內部的研發測試、模型公開發布前的預發布測試、應用於特定場景前的部署前系統測試，到實際運作後的持續部署後測試。這些環節都由不同的參與者執行，旨在衡量模型的不同面向。
儘管美國目前沒有聯邦法律強制政府在模型發布前進行預審或測試，但自第一次川普內閣時期推動 Executive Order 14409 後，許多大型 AI 實驗室已自願與美國聯邦政府簽署協議，允許對其模型進行測試。Francis De Souza 強調，一個穩健且有效的 AI 測試與評估生態系統，不僅與科技創新相容，更能透過更明確、更一致的政府預期，讓業界更自信地投資、開發與部署 AI 模型。這些經驗對於台灣發展 AI 相關政策具備重要的參考價值，有助於在推動創新同時確保風險可控。
