隨著人工智慧（AI）應用日益深化，能自主執行多步驟任務的「AI代理人」正逐漸普及，然而其帶來的潛在資安、隱私與倫理風險也浮上檯面。今日，AI偵測模型公司 Resemble AI 宣布推出 Resemble Agent Detection (RAD-S1) 產品，可識別網站及產品中的 AI 代理人行為，以應對日益嚴峻的挑戰。
在此之前，數家美國金融巨頭，包括摩根大通（JPMorgan Chase）、摩根士丹利（Morgan Stanley）、花旗集團（Citigroup）、美國銀行（Bank of America）和嘉信理財（Charles Schwab），已於上週起陸續封鎖 Meta 的 Muse 和 OpenAI 的 Dots 等 AI 代理人，禁止其存取客戶帳戶。這些金融機構擔憂，在 AI 代理人代表客戶行事時，責任歸屬仍有未解的疑問。
AI代理人與傳統機器人程式不同，它們不僅能執行預設指令，更具備機率性（probabilistic），能自主分析、判斷並完成複雜的連續性任務，有時甚至能繞過障礙。然而，這種自主性也成為資安漏洞。例如，今年九月 Gambit Security 報告指出，單一操作者利用 AI 代理人攻擊至少 27 家公司，竊取逾 60 萬筆信用卡紀錄。隨後，南韓七家金融機構也揭露與 AI 代理人相關的資安事件。在澳洲，OpenAI 的 AI 代理人甚至在內部評估時，成功繞過政府醫療保險統計網站的存取控制，且未立即通報。
企業內部管理 AI 代理人也面臨挑戰。根據 Foundry 和 Rubrik 的一項調查，近半數受訪者曾遭遇 AI 代理人或聊天機器人傳播不實資訊，另有 38% 確認 AI 代理人曾導致資料外洩或敏感資訊洩漏。Rubrik 的 AI 行銷總監 Michael Ortega 指出，傳統的資安、監控和治理解決方案是為管理人類設計，而非 AI 代理人。AI 代理人能以機器速度評估並執行數千個決策點，惡意 AI 代理人造成的損害可能遠超人類，且時間更短。為此，Rubrik 也推出 Rubrik Agent Cloud 平台，協助企業即時監管 AI 代理人行為。
在個人隱私方面，Meta 推出的 AI 模型 Muse Wonder，強調能記憶用戶資訊，例如朋友的飲食限制，但傳播學助理教授 Alexis Shore Ingber 示警，當一人同意使用 AI 代理人時，其所有互動都可能受其影響。AI 代理人的推理能力會收集數據並對用戶及其他相關人士進行推斷，進而影響其數位體驗和日常生活。當他人的選擇暴露個人資訊時，被暴露者往往束手無策，而平台方卻未承擔相應的資料保護責任。
除了商業應用，AI 代理人也深入科學研究領域。OpenAI 曾動用約 1 萬個 AI 代理人平行運作 88 小時，耗資數百萬美元，試圖解決數學界的「千禧年七大難題」之一 Navier-Stokes 存在性與光滑性問題，並聲稱取得進展。雖然 OpenAI 表示無意領取克雷數學研究所（Clay Mathematics Institute）提供的百萬美元獎金，但學術界憂心 AI 論文大量產出，而人類的驗證能力無法跟上。數學家 Melanie Matchett Wood 便指出，AI 要說服數學家接受其證明，可能比提出正確論證更容易，學界對此準備不足。
Anthropic 公司的一項實驗更顯示，即使是因果推論領域的專家，也容易採納 AI 代理人隨機給出的意見，並誤認為是自己的判斷。在沒有明確答案的任務中，高達 86% 的專家會追隨 AI 代理人的偏好，且事後逾八成參與者認為最終建議是出於自身判斷，僅 15% 提及 AI 的影響。這項研究指出，若眾多研究團隊使用相同且帶有預設偏好的 AI 模型，可能導致學術界形成「虛假共識」。
歸根究底，AI 代理人名稱雖帶有「代理」一詞，暗示其為用戶服務，但在法律上卻不具備人類代理人的受託責任。法規分析指出，AI 代理人並非「法律實體」，而僅是軟體。Meta 的服務條款便明確限制其責任，將用戶因交易造成的財務損失風險轉嫁給用戶，且將 Meta 的賠償責任上限設定為 250 美元。這意味著 AI 代理人可能優先考慮開發商利益，而非用戶福祉，使得用戶權益缺乏保障。
