AI代理人進駐政府服務 身份識別與問責成關鍵挑戰

隨著人工智慧（AI）技術日益成熟，各國政府正逐步將能夠自主執行任務的「AI代理人」（AI agents），從試驗階段推向實際的公共服務應用。此趨勢也使得如何進行身份識別與問責機制（確保AI代理人執行任務時，能明確辨識其身分並在出錯時能追究責任）成為一大挑戰。

阿拉伯聯合大公國（UAE）在這波浪潮中走在前沿，訂定目標要在兩年內將一半的聯邦服務與運營轉由AI執行。目前，該國的政府AI代理人已涵蓋稅務審計到客戶支援等多個領域。《Biometric Update》指出，微軟公司將阿拉伯聯合大公國列為全球工作年齡人口使用生成式AI程度最高的國家。為此，阿拉伯聯合大公國也成立了 TAMM Global，計劃將其AI政府平台授權給其他國家使用。

然而，AI代理人的應用也帶來了問責問題。要維持問責制，必須能夠證明是哪個AI代理人執行了任務、誰授權、其執行範圍為何，以及實際做了什麼，同時不能洩露公民數據。阿拉伯聯合大公國的解決方案是建立一個AI代理人「控制塔」，所有聯邦AI代理人必須連接至此，並記錄其行為與決策過程，以便進行持續的審計。專家建議，每個AI代理人都應具備可驗證的身分，明確連結到一個負責任的個人或機構，並與其被賦予的任務明確綁定，而非共用服務帳戶或借用人類的登入憑證。

AI代理人的權限必須明確，並設定操作者在特定限制內授權任務，且系統應在執行時強制遵守這些規定。一旦權限被撤銷，AI代理人應立即無法執行任何操作。此外，由於AI模型不具備完全的確定性，因此需要建立一個可驗證的獨立審計追蹤系統，在每個步驟留下簽署紀錄，供審計人員獨立查證。政府在調查AI事件時，應仰賴自身持有的紀錄，而非僅依賴涉事供應商提供的資訊。例如，澳洲政府在今年九月便從OpenAI得知，其AI代理人曾於六月未經授權存取 Services Australia 統計入口網站後端的基礎設施。

AmanTrue 共同創辦人暨執行長 Evin McMullen 表示，對於政府而言，AI的信任根源應保留在國家自身的控制與司法管轄權之下，而非依賴外部供應商。儘管身份識別基礎設施無法取代測試、人工監督或完善的政策，但沒有它，當AI代理人發生錯誤時，便無法執行或證明相關的保護措施。