企業AI代理程式控管現危機 逾半組織恐無資安防禦策略

隨著人工智慧（AI）技術應用加速，企業面臨的資安風險也隨之攀升。一項最新分析指出，全球有高達 54% 的組織對於限制 AI 代理程式的存取權限，尚未制定明確的防禦策略。這顯示儘管企業在 2026 年快速部署 AI 工具，資安準備卻嚴重不足，成為 2027 年關鍵的資安挑戰。

研究公司高德納諮詢公司（Gartner）指出，AI 系統即使不具備通用人工智慧（AGI）能力，仍可能對企業營運造成重大網路風險。目前已有 OpenAI 及 Anthropic 等 AI 公司的代理程式在企業系統內部自主運作。高德納諮詢公司強調，問題不在於單一 AI 代理程式的複雜程度，而在於未經良好規範的代理程式可能帶來的巨大破壞範圍。

資安研究公司 Omdia 的資安實踐總監梅琳達·馬克斯（Melinda Marks）也提出警告，企業不能再假設供應鏈中斷會自動恢復正常。高德納諮詢公司與 Omdia 的分析均認為，企業首要任務是清查並界定 AI 代理程式的存取範圍，將其視為特權操作進行管理，並建立風險檔案，詳載每個代理程式的權限與數據可及範圍，優先限制自主程度最高的代理程式。

除了內部控管問題，外部威脅也日益嚴峻。高德納諮詢公司將由 AI 生成的視訊或音訊冒充行為，即「deepfakes」，歸類為「主流」威脅。國家級駭客等攻擊者利用 deepfakes 冒充高階主管或資訊科技人員進行詐騙。為此，資安專家建議，應將 deepfake 偵測技術與裝置位置、IP 位址等情境訊號結合運用。

另一方面，網路犯罪集團 TeamPCP 曾鎖定用來建構 AI 應用程式的開源程式庫 LiteLLM 特定版本發動攻擊，導致大規模憑證竊取事件。這突顯出 AI 供應鏈的風險。高德納諮詢公司在 2026 年的一項調查顯示，76% 的資訊安全長（CISO）已將 AI 驅動的漏洞發現列為前十大新興風險。儘管 59% 的組織預計在 2027 年將 AI 預算提高至少 10%，但如何有效治理與保護 AI 部署，將是未來一年企業資安的關鍵考驗。