AI生成非同意親密圖像風險難防 基礎模型緩解措施仍不足

根據民主與科技中心（Center for Democracy & Technology）發布的一份最新報告，AI技術在生成非同意親密圖像（NCII，指的是未經個人同意就被散布的私密影像）方面的潛在濫用，以及現有基礎模型（Foundation Models，這類大型AI模型經過大量數據訓練，能執行多種任務）所採取的防範措施與其侷限性，引發外界關注。

報告指出，主要的AI開發商，如OpenAI、Google、Meta和Stability AI等，透過產品層級的干預措施，試圖控制這些模型生成內容。這些措施包括輸入/輸出過濾（Input/Output Filtering）、威懾訊息（Deterrence Messages）和溯源方法（Provenance Methods）。輸入/輸出過濾旨在透過AI模型辨識並阻擋違反政策的內容，威懾訊息則是在用戶嘗試生成不當內容時發出警告，而溯源方法如數位浮水印和C2PA內容憑證，則用於追蹤AI生成內容的來源。

然而，這些防範機制存在顯著的漏洞。輸入/輸出過濾容易被「越獄（jailbreaking）」技術繞過，使AI模型能夠生成違規內容。例如，有媒體報導，xAI旗下Grok模型因具備生成AIG-NCII的能力，在2026年初受到媒體及監管機構的密切關注。線上社群，如Telegram和Reddit，更活躍分享繞過AI模型限制的方法，其中文字轉圖像模型特別容易被用於生成公眾人物的AIG-NCII。

報告也發現，AI模型在內容審核上經常將重心放在偵測性內容而非NCII本身，導致過度或不足的執法。此外，色情內容偵測演算法可能存在偏見，過於寬泛的定義恐導致性健康資訊或性別認同相關內容遭到不當審查。即使是溯源方法，其浮水印也可能被移除、規避或偽造，且受害者在向平台回報時，面臨著複雜且不一致的驗證流程。

許多公司曾對美國拜登（Biden）-賀錦麗（Harris）政府承諾管理AI風險，但這些承諾往往未明確針對AIG-NCII。儘管Google在2024年向國家失蹤及被剝削兒童保護中心（NCMEC）通報逾600起疑似兒童性虐待內容（CSAM），Anthropic也於2025年12月通報5,005起，但普遍缺乏針對AIG-NCII事件的透明報告。民間社會組織強調，所有NCII內容都應有更清晰的通報管道，無論其是否由AI生成。