隨著人工智慧（AI）技術的快速發展，網路犯罪分子也開始利用複雜的 AI 系統發動攻擊。資安專家指出，駭客現在能更容易地透過人工智慧入侵個人裝置，網路安全面臨新的挑戰。
網路安全公司 HackerOne 執行長 Kara Sprague 表示，使用者在 AI 聊天機器人（指能與人對話，執行任務或提供資訊的電腦程式）上輸入的內容並不會在使用結束後憑空消失。她比喻，使用者應將這些 AI 聊天機器人視為路上的陌生人，「你不會把自己的住家地址、電話號碼或銀行詳細資訊交給陌生人，同樣也不應將這些資訊提供給 AI 模型。」
Sprague 提醒，大多數人沒有意識到他們與 AI 的對話內容，可能會被用於改進模型，以便為下一位使用者提供服務。雖然這聽起來無害，但若考量到用戶可能曾輸入的敏感資訊，潛在風險便不容忽視。
為保護個人隱私，專家建議使用者務必檢視所使用的 AI 工具之隱私設定。其中一項關鍵步驟是關閉「模型訓練與記憶保留」功能，這意味著阻止 AI 將你的對話內容用於改進其學習模型，或記住你過往的對話紀錄。透過這項簡單的設定更改，將能有效降低個人資料外洩的風險。
此外，使用者也應隨時保持警惕，對於 AI 工具提供的任何資訊，都必須自行驗證並審慎評估其正確性，以避免誤導或不實訊息帶來的影響。
