戴爾科技：AI代理程式「護欄」是實現更大自主性的途徑

戴爾科技（Dell Technologies Inc.）總裁兼資安長約翰·希蒙（John Scimone）指出，企業在賦予人工智慧（AI）代理程式更高自主性的同時，必須重視「AI agent guardrails」（AI 代理程式護欄，指為確保人工智慧系統安全運作而設定的限制與保護機制）的設計。他強調，從設計之初就將安全與韌性（resilience）融入 AI 代理程式，對於其長期效益至關重要。

約翰·希蒙（John Scimone）在《theCUBE》舉辦的「AI 網路資安與韌性高峰會」上受訪時表示，傳統的災難復原已轉變為網路韌性。面對現今的網路威脅，駭客攻擊整個數位生態系統的風險，比傳統的天災更為普遍。他認為，AI 代理程式雖然帶來便利，但也新增了新的依賴性，一旦代理程式或其資料不可用，工作流程便可能中斷。

根據一項針對 25 家企業科技與資安主管的調查顯示，其中有 19 家已在生產環境中使用自主 AI 代理程式，但無一允許代理程式在未經人工核准的情況下執行高風險操作。約翰·希蒙（John Scimone）認為，目前企業在 AI 部署上過於謹慎，應採深思熟慮的方式實施確定性的護欄，而非過度保守。戴爾科技內部便為其 AI 代理程式實施嚴格的身分與存取控制，並進行廣泛的日誌記錄與追溯，以確保其內部 AI 代理程式的安全運作。

約翰·希蒙（John Scimone）也提到，這 25 家受訪者中，只有 4 家曾測試 AI 代理程式發生事故時的應變情境。他強調，威脅行為者已開始利用 AI 進行攻擊，預計未來幾季這類攻擊將會大幅增加。研究指出，那些賦予 AI 代理程式有限度自主權的組織，其復原準備度（recovery readiness）普遍優於僅仰賴人工核准的組織。設計良好的 AI 代理程式護欄，能讓企業在掌握正確資訊與數據的前提下，更自信地承擔風險，加速推進業務，同時避免過度或不足的投入。