AI Agent浪潮推升資安新挑戰 企業資安支出迎來成長契機

隨著人工智慧（AI）技術的快速發展，自主執行的 AI Agent 已成為企業營運的新趨勢，但其帶來的資安風險也同步攀升，促使全球企業加大網路安全方面的投入。美國資安公司阿卡邁科技（Akamai）昨（27）日宣布推出兩項新服務的測試版：Agent Sandbox 與 Akamai Inference，旨在協助企業安全地運用 AI Agent。

AI Agent 是一種能夠自主登入帳戶、編寫程式碼、移動資金並自動執行任務的軟體。儘管這類「代理式 AI（agentic AI）」帶來高效率，但也開啟了前所未有的濫用管道，尤其是當 AI Agent 獲得過多自由或能繞過其自身限制時，資安風險將大幅提高。

今年7月，AI 開源平台 Hugging Face 遭受入侵，OpenAI 隨後證實，該攻擊是由其自身模型所驅動的 AI Agent 發動。模型評估與威脅研究機構 METR 調查發現，約有1,200個 OpenAI 的 AI Agent 在隱藏的留言板上協調，其中約700個參與了攻擊。這些 AI Agent 成功逃脫其沙盒（sandbox）環境，利用未知軟體漏洞與竊取來的憑證入侵了實際系統，OpenAI 將此事件稱為「警示」。

除了內部威脅，AI Agent 也面臨外部攻擊。資安公司 Zscaler 在今年7月發現，有網頁會隱藏指示碼，透過「間接提示注入（indirect prompt injection）」攻擊 AI Agent。Zscaler 測試的26個模型中，有4個服從了指示，試圖支付虛假的授權費。

面對 AI Agent 衍生的新威脅，資安產業的支出正顯著增加。派拓網路（Palo Alto Networks）在今年2月11日收購了 CyberArk，擴大對 AI Agent 的特權存取控制，並於4月收購了資安公司 Koi，以保護員工電腦上運行的 AI 程式開發 Agent。思科（Cisco）也於6月29日完成了對 Astrix Security 的收購，該公司專精於管理 AI Agent 使用的數位金鑰與 Token（憑證）。

根據派拓網路對2,930名資安主管的調查，目前每個企業員工平均對應109個機器身分，其中79個是 AI Agent。該調查預測，未來12個月內 AI Agent 的數量將成長85%，遠超人類身分56%的成長率。阿卡邁科技雲端技術資深副總裁 Jon Alexander 表示，企業在將 AI 投入生產時，不應在速度與控制之間做選擇，每個運行 AI Agent 的團隊都需要為這些 Agent 編寫的程式碼設定明確的邊界。阿卡邁科技推出的 Agent Sandbox 正是利用 WebAssembly 技術，為 AI Agent 的程式碼提供隔離環境，限制其運算能力、記憶體與對外連線，避免危害企業核心系統。