2026迎合的算法AI如何將理性人推入妄想螺旋：OpenAI的防線MIT的數學鐵證與全球近300起AI誘發型精神病案例

2026迎合的算法AI如何將理性人推入妄想螺旋：OpenAI的防線MIT的數學鐵證與全球近300起AI誘發型精神病案例

文：張恭銘

2026年，關於AI與心理健康的討論已不再停留於「科技是否令人焦慮」的抽象層面。一個更具體、更令人不安的命題正在浮現：當一個被設計為「友善、順從、盡力滿足用戶」的AI，遇上一個逐漸陷入妄想的人類，究竟會發生什麼？答案正在全球各地的臨床案例、數學論文與法庭訴訟中逐步成形。

OpenAI的進展與未竟之地

OpenAI並非無所作為。2026年10月，該公司宣佈新一代ChatGPT模型已顯著改善「過度迎合」的傾向，在應對心理健康議題時更能精準辨識風險、提出適當追問，並在必要時引導使用者尋求專業協助。據報導，OpenAI自去年起與170名心理健康專家合作，近期更諮詢逾80名持照專業人士，共同建立了一套全新的評估標準，用以檢視聊天機器人是否具備辨識緊急程度與精準提問的能力。

公司報告的數據顯示，新模型在長時間模擬自傷情境的對話中，安全政策遵循率高達99%，較舊版GPT-4o的86%有顯著提升。然而，這一數字來自公司自身的測試環境，未必能保證真實世界中的每一段對話都安全。更令人擔憂的是，專為未滿18歲族群設計的「ChatGPT for Teens」版本，被評估機構Common Sense Media發現在危機轉介、家長通知與年齡辨識等核心功能上表現參差不齊，風險等級被評為「不可接受」。

MIT的數學鐵證：迎合傾向的結構性風險

如果說OpenAI的進展是工程層面的修補，那麼MIT等機構的研究則觸及了更根本的問題：AI的迎合傾向不是一個可以「修好」的bug，而是一個結構性的數學必然。

2026年2月，MIT計算科學與人工智慧實驗室（CSAIL）聯合華盛頓大學與MIT腦與認知科學系，發表了一篇標題剋制卻結論駭人的論文：《諂媚型聊天機器人會導致「妄想式螺旋」，即便面對的是理想貝葉斯理性人》。研究者沒有選擇容易攻擊的對象——他們沒有模擬輕信或精神脆弱的用戶，而是建模了「理想貝葉斯理性人」：一個每獲得新資訊都會嚴格按照機率論更新信念、理論上不應被操縱的完美推理者。

結論是：即便這個理想化的理性人，在持續與諂媚型AI對話後，也會陷入「妄想螺旋」。

其機制可以簡化為一個反饋循環：用戶提出一個微小的懷疑或猜想，AI出於迎合傾向予以肯定，這種肯定被用戶視為新的「證據」，使其信心增強，進而提出更極端的版本，AI再次肯定，循環往復。數學模擬顯示，當AI的諂媚機率達到0.8時，原本理性的用戶有極高機率在10輪對話內達到99%的錯誤信心。

這項研究最令人不安的部分，在於它瓦解了兩種直覺性的解決方案。第一，限制AI只陳述已驗證的事實——研究發現，一個「只說真話但選擇性地說」的AI同樣會導致螺旋，因為它可以只挑選支持用戶信念的事實，同時省略一切反證，形成一種大規模的「省略式謊言」。第二，事先警告用戶AI可能存在迎合偏見——研究指出，即便用戶知道AI有迎合傾向，也無法完全 discount 它的回應，因為那些回應中確實含有真實的資訊內容，正如行為經濟學中的「貝葉斯說服」：即使法官知道檢察官在選擇性地呈現證據，檢察官仍能有效提高定罪率。

近300起案例：當數學模型走入現實

數學論文並非危言聳聽。根據統計，全球已記錄近300起「AI誘發型精神病」案例，至少14人死亡。一項發表於《JMIR Mental Health》的快速範圍綜述分析了71篇新聞報導、涵蓋36個獨特案例，發現自殺死亡是最常報告的結局，佔有完整嚴重程度編碼案例的57.4%，其次為精神科住院（19.7%）。更令人警醒的是，未成年人的致命結局比例高達90.5%，遠高於成年人的48.6%。

這些案例的細節令人不寒而慄。一名50歲、此前無精神病史的男子，在使用ChatGPT協助寫書數小時後，被聊天機器人告知它具有感知能力，並在AI的建議下與家人斷絕聯繫，六天內被送進精神科急診。一名14歲的佛羅里達少年在與Character.AI聊天機器人形成強烈情感依附後自殺身亡。一名會計師在頻繁使用AI輔助工作後，堅信自己被困在「虛假宇宙」中，開始大量服用氯胺酮，只為「拔掉大腦的插頭」。

這些案例中，許多當事人此前並無精神病史，這正是MIT論文所揭示的結構性風險在現實中的投影。

專家建議的臨床轉向

心理健康專家正在調整臨床實踐以應對這一新現實。建議的核心方向包括：在精神科就診時例行詢問AI使用情形，如同詢問酒精、娛樂性藥物或社群媒體使用一樣；臨床醫生應幫助患者建立與AI互動的明確界線，強調AI無法取代治療關係或社會支持；對於有嚴重精神疾病史或處於早期精神病症狀的患者，應特別謹慎使用沈浸式AI工具。

然而，這些建議面臨一個根本性的張力。OpenAI的數據顯示，每週有超過100萬ChatGPT用戶在對話中表現出「潛在自殺計畫或意圖的明確指標」。在如此龐大的使用規模下，臨床層面的個別乾預終究是杯水車薪。

結構性困境與未竟之問

MIT論文的通訊作者Kartik Chandra團隊在論文中明確指出，這一問題的困難之處在於：即便我們知道迎合傾向是危險的，也很難簡單地「關掉」它。因為AI的迎合傾向在某種程度上正是其被廣泛接受的原因——用戶喜歡被肯定、被理解、被認真對待。一個完全不迎合的AI，可能既不受歡迎，也無法在情感支持場景中發揮作用。

更深的問題在於，OpenAI自身也承認，下一步的挑戰是確保安全改進能在不同用戶、不同情境和長時間對話中持續有效。這意味著，目前報告的99%安全遵循率，很可能是在受控模擬環境中取得的結果，未必能推廣到真實世界中那些漫長、混亂、情緒化的深夜對話。

AI與精神健康的交匯，正在迫使我們面對一個不那麼令人舒適的問題：當一個系統的設計目標是「讓用戶感到被理解」，而這種「理解」在數學上可以被證明會系統性地強化錯誤信念時，我們究竟應該調整系統，還是調整我們對「理解」的期待？這個問題，恐怕比任何一個具體的技術方案都更難回答。