美參議員提AI治理框架 醫療保險業面臨嚴格審查

美國參議院商務、科學和交通委員會的資深成員瑪麗亞·坎特韋爾（Maria Cantwell）參議員，日前提出一項人工智慧（AI）治理框架。該框架以六大原則為基礎，預期將影響美國目前正在辯論的聯邦AI立法，特別是對醫療保險公司（Health Plans，指提供醫療保障的機構）運用AI的方式，帶來深遠影響。

坎特韋爾參議員的框架要求，所有涵蓋範圍內的AI模型在發布前，必須通過獨立稽核，確認符合相關安全保障和標準。這意味著醫療保險公司需仔細審視其內部開發的AI工具，以及供應商產品中嵌入的AI系統。框架也呼籲國家標準及技術研究所（National Institutes of Standards and Technology, NIST）制定清晰、透明、可衡量且基於風險的AI系統標準，尤其針對可能造成災難性危害的系統。這些標準將建立相稱的安全保障與風險管理要求，並對展現危險能力或可能繞過安全控制的自我改進系統，進行更嚴格的審查。

該框架強調政府與獨立專家應對受涵蓋的AI模型進行「持續監督」，並不斷審查及壓力測試，以對抗災難性風險標準。稽核公司將對AI開發商進行全面稽核，類似查核財務報表的嚴謹程度，確保AI產品符合聯邦標準。此外，開發商需提供清晰、易懂的說明，揭露重大安全與資安風險及其緩解措施，並迅速通報AI安全事件，如自動代理失控、關鍵安全措施失效等。對於因AI系統造成的可預見損害和不法行為，開發商將承擔民事和刑事責任，即使是第三方AI工具造成的損害，若醫療保險公司未能實施合理防護或充分監督，也需承擔責任。框架也納入吹哨者保護機制。

框架特別關注AI在影響就業、醫療照護、信用等重要決策時的應用，要求AI系統應透明、公平，並受有意義的人為監督。這對AI輔助的事前核准（prior authorization，醫療保險公司在提供特定醫療服務前，對其必要性進行審核的機制）尤其重要，因為這可能延誤或拒絕患者所需照護。框架中點名醫療保險和醫療補助創新中心（U.S. Centers for Medicare and Medicaid Services’ (CMS) Innovation Center）的「Wasteful and Inappropriate Service Reduction (WISeR) model」計畫，此模式旨在利用AI擴大事前核准，卻引發系統性拒絕照護的疑慮。坎特韋爾參議員的框架預示，未來立法可能強制要求對AI驅動的事前核准決策進行人為監督。

為因應潛在的新法規，醫療保險公司應採取多項措施，包含全面清查所有影響成員承保、照護或福利決策的AI系統；檢視關鍵臨床或行政決策中，AI系統的人為監督協議；審查對成員的溝通內容，確保充分揭露AI使用，並提供人為審核的途徑；確保與供應商的合約中包含AI相關的合規、稽核權、事件通報及損害賠償條款；並建立由董事會和高階管理層負責的AI監督治理和文件基礎設施。坎特韋爾參議員強調，美國可透過建立能力更強、更安全、更可靠的AI系統，引領全球AI發展。