AI代理人引發安全擔憂 國際網路安全局發布Token消耗指南

隨著人工智慧（AI）技術快速發展，其應用層面日益廣泛，從金融服務到醫療保健皆可見蹤跡。然而，伴隨而來的安全風險也引發國際間高度關注。美國網路安全和基礎設施安全局（CISA），這個美國國土安全部下屬、負責保護關鍵基礎設施的聯邦機構，已聯合加拿大、澳洲、紐西蘭和英國的盟友，共同發布了應對AI代幣（Token）消耗風險的指南。

目前，許多大型金融機構，包括花旗、摩根大通、美國銀行和富國銀行，正採取預防措施，限制或禁止第三方人工智慧代理人（AI agents）直接存取客戶帳戶及其平台服務。AI代理人是指具備獨立執行任務能力的AI類型，例如協助用戶管理帳戶或執行交易。這些銀行主要擔憂AI代理人可能引發未經授權的交易或詐欺行為。美國銀行執行長布萊恩·莫伊尼漢便強調，所有支付指令仍需「人為介入」審核，以確保交易的合法性。派拓網路（Palo Alto Networks）的一項調查顯示，金融服務和軟體業有三分之二的資安長將AI代理人列為前三大網路安全風險。

與此同時，加密貨幣交易所 Coinbase 則選擇開放AI代理人在其平台上進行加密貨幣、股票和衍生品的交易。Coinbase 於10月22日宣布，已批准 ChatGPT、Claude、Grok 等多個AI助理可連接其平台。儘管如此，Coinbase 執行長布萊恩·阿姆斯壯坦言，AI代理人金融服務仍處於早期階段，並建議用戶為AI交易設立獨立帳戶，且投入可承受損失的資金。

由 CISA 及其盟友發布的《管理AI代幣消耗以實現運營韌性》指南，旨在協助組織預防AI代幣消耗導致成本飆升、服務配額耗盡及關鍵服務中斷。指南中特別提及一種新型網路攻擊手法——「拒絕錢包（Denial-of-Wallet）」攻擊。此攻擊原理是駭客透過向AI模型發送複雜或循環查詢，惡意消耗目標組織的AI代幣配額或預算，導致合法服務無法正常運作。指南建議將AI容量分為三層優先級：將網路防禦和事件響應列為最高優先級，其次是合規與政策分析等核心業務，而日常生產力任務（如撰寫電子郵件）則可於需求高峰時進行調節。

除了金融產業，醫療保健機構也面臨AI代幣消耗的挑戰。複雜的AI任務需要更多的Token消耗，可能導致意想不到的成本。因此，業界呼籲將 FinOps（金融運營）概念與AI代幣管理結合，發展出「TokenOps」或「AI FinOps」來提升管理效率。美國證管會（SEC）也將「AI超級智能」和「Token化」列為2027年度檢查重點，將其視為影響市場運作的系統性風險。

網路安全專家憂心，AI技術可能被惡意利用，以前所未有的速度和規模發現並利用網路漏洞，開啟駭客攻擊的新時代。美國國會議員也正積極立法，防範AI模型遭竊取，並規範AI生成內容在政治廣告中的使用。

面對這些複雜且不斷演進的AI安全風險，台灣企業在導入AI技術時應密切關注國際趨勢。借鏡全球金融機構和政府單位所採取的風險管理措施，建立完善的AI治理框架，確保在享受AI帶來便利與效率的同時，也能有效防範潛在的資安威脅與營運中斷風險。