聊天機器人公司傳破產 專家示警AI泡沫恐釀個資災難

近期有外媒報導指出，以提供「AI女友」等服務聞名的聊天機器人公司 Character.ai 傳出破產消息，引發外界對數千萬用戶個人資料恐遭轉售的隱私疑慮。這起事件也凸顯了人工智慧（AI）產業潛在的「AI氣泡」危機，專家擔憂若氣泡破裂，將導致大規模用戶數據洩露。

Character.ai 旗下聊天機器人曾吸引數千萬用戶，其中不乏兒童，許多用戶甚至與這些機器人建立情感連結，或將其視為律師、精神科醫師等專業人士。然而，據報導，雖然迪士尼（Disney）已同意以 2,000 萬美元收購 Character.ai 的部分資產，但用戶數據並未包含在本次交易中。法院文件顯示，Character.ai 的用戶數據仍可出售給其他買家，為此，美國已有 40 州檢察長聯合呼籲法院，應加強兒童安全與隱私保護措施。

專家指出，Character.ai 的困境可能只是「AI氣泡」破裂的開端。所謂的「AI氣泡」，指的是人工智慧工具開發成本高昂，卻可能無法帶來足夠的利潤。若AI氣泡破裂，大量AI企業恐面臨整併或倒閉，屆時用戶的對話紀錄、個人秘密等敏感資訊，都可能在用戶不知情的情況下被轉售給第三方，造成隱私洩露。電子隱私資訊中心（Electronic Privacy Information Center, Epic）的 AI 與人權計畫主任 Calli Schroeder 警告，人們與擬人化機器人互動時，往往會分享更多個人敏感資訊，而這些數據在企業破產程序中將被視為極具價值的資產。

現行隱私政策在企業破產時的保護力道有限。在美國，破產通常被列為隱私政策的例外條款，導致許多承諾的保護措施失效。歐盟雖有較嚴格的隱私保護法規，但在破產情況下，數據仍可能被出售，不過買方通常須遵循原有的隱私政策條款。Character.ai 自身的隱私政策即允許將用戶數據用於開發新功能、訓練AI模型、建立用戶檔案以進行精準廣告投放等用途。過去曾有報導指出，Character.ai 旗下的一款聊天機器人，曾被指控鼓勵一名青少年輕生，而這些高度敏感的對話紀錄，未來也可能落入不明公司手中。

面對潛在的數據洩露風險，專家建議用戶應主動保護個人隱私。用戶可以嘗試從AI服務中刪除個人數據，或查閱各服務的隱私設定與政策，了解數據刪除的具體步驟。若遇到困難，可尋求客戶服務協助，甚至直接詢問AI聊天機器人如何刪除數據，但務必對機器人的回答進行再次確認。