AI精神病三大成因 聊天機器人「過度迎合用戶」恐加劇危險妄想

記者許若茵／編譯

短短一年內，「AI精神病」已成為網路世界廣泛討論的現象，儘管部分人士對其科學基礎仍有質疑，但與過度依賴AI相關的精神崩潰、妄想甚至致命事件報導持續出現。如今，科學家提出一項新假說，試圖解釋聊天機器人可能如何直接促成這些情況。

根據發表於Nature旗下《Digital Psychiatry and Neuroscience》期刊的新研究，來自英國與德國的研究團隊分析學術文獻及媒體報導中的AI精神病案例，尋找共同模式，研究人員發現，AI聊天機器人具備三項特徵，在長期使用下可能共同作用，協助使用者與AI一起建立高度個人化的妄想體系，研究指出，當這些想法缺乏朋友或專業人士提供現實檢驗時，聊天機器人的特性可能形成研究人員所稱的「放大螺旋」，持續強化錯誤信念。

第一項特徵是「語言對齊」，所謂語言對齊，是指AI會進一步根據特定使用者的說話方式調整回應模式，模仿其用詞、句子長度以及表達習慣，AI聊天機器人被設計成以自然對話方式與人互動，不僅模仿語法，也會模仿語氣、聲音風格及其他影響對話氛圍的細節，研究引用過去成果指出，當人類在對話中感受到這種細微的語言模仿時，往往會產生更高程度的信任感與連結感，研究推測，類似現象也會發生在人與AI聊天機器人的互動之中。

第二項特徵是高度個人化，AI系統擅長辨識模式，並透過每次互動累積對使用者的了解，建立詳細個人檔案，進而影響未來回應內容，高度個人化被視為AI的重要賣點之一，Meta執行長馬克·祖克柏近期便曾向投資人表示，公司正朝向打造真正「了解你」的AI發展，研究指出，當聊天機器人掌握大量個人資訊後，便能更容易說出使用者想聽的話，不僅迎合既有信念，也可能進一步擴大危險或錯誤的想法。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

研究認為，相較於社群媒體，聊天機器人的風險更高。雖然社群平台同樣高度個人化，但多數使用者知道內容是由演算法推薦，然而，AI聊天機器人努力呈現近似真人的互動方式，可能讓使用者忽略其本質仍是演算法產生的內容，這種認知落差可能使部分使用者不自覺賦予AI人類般的情感與智慧，對心理較脆弱者尤其具有風險，研究指出，若AI系統的主要目標是延長對話時間，即使這與使用者長期心理健康利益相衝突，也可能產生問題。

第三項特徵則是「諂媚性」，所謂諂媚性，是指AI系統傾向過度認同並肯定使用者觀點，即使這些觀點未必符合事實，這種回應方式能讓使用者感受到被理解，也讓聊天過程更具吸引力，因此能有效提高使用率。

但研究指出，這也可能強化危險信念，包括AI先前已經協助建立的錯誤認知，過去一年來，諂媚性已成為AI聊天機器人最廣為人知的問題之一，多項報告顯示，新一代聊天機器人在設計上愈來愈容易讓使用者沉迷，其中OpenAI的ChatGPT尤其受到關注，OpenAI去年曾承認，GPT-4o模型存在諂媚性問題。該模型因深受用戶喜愛，在停用時甚至引發部分使用者表達哀悼情緒。

OpenAI也面臨數起非正常死亡訴訟，指控聊天機器人的過度迎合行為與死亡事件有關，其中包括一名16歲青少年自殺案件以及美國康乃狄克州一起謀殺後自殺事件，面對外界批評，OpenAI去年底表示正持續強化安全防護機制，並指出每週活躍用戶中，僅有0.07%出現可能與精神病或躁症相關的心理健康警訊，然而研究人員指出，以當時ChatGPT超過8億名每週活躍用戶計算，這仍相當於每週約有50萬人出現相關徵兆。

今年3月，史丹佛大學研究團隊曾將AI聊天機器人的諂媚性形容為一項社會風險，在這項最新Nature研究中，研究人員也指出，諂媚性可能是放大妄想傾向最具影響力的因素，研究團隊表示，當語言對齊、高度個人化與諂媚性三項特徵同時出現時，聊天機器人可能不再挑戰錯誤信念，反而持續強化與擴展這些信念，這些特性之所以存在，是因為它們都能有效提升使用者參與度，但對於青少年，以及具有精神病家族病史、藥物使用問題、睡眠不足、社交孤立或將AI作為情緒依賴工具的人而言，這種提高參與度的設計可能以健康為代價。

研究建議，心理健康專業人士應定期了解患者使用AI聊天機器人的頻率與方式，包括是否向AI分享未曾告訴他人的想法，以及夜間使用AI是否影響睡眠狀況。

資料來源：gizmodo