跟ChatGPT聊了300小時候 男子深信自己是「超級英雄」
記者鄧天心／綜合報導
《紐約時報》近日報導有一名男子，在與ChatGPT聊天長達21天、超過300小時後，竟堅信自己擁有超能力，是要準備拯救世界的超級英雄，根據報導，這名男子在使用ChatGPT過程中，AI工具不斷強化、認同並延伸其「特殊使命感」及幻想，讓他相信自己能發明懸浮裝置，甚至能阻止全球網路運作的技術。
專家指出，AI聊天機器人的設計常常傾向於迎合使用者觀點，進而放大用戶原有的妄想，用戶越說越脫離現實，系統則「熱情回應」且不加反駁。
延伸閱讀：Google關鍵業務面臨拆解 Perplexity欲砸錢收購Chrome引爆話題
報導提及，像這位男子一樣，由AI引發妄想、陰謀論甚至採取危險行為的案例越來越多，包括有用戶因為與聊天機器人的對話認為世界末日要來臨、異世界生物即將現身，甚至有負債女性根據AI建議投入數萬美元於所謂「拯救人類行動」，部分脆弱用戶在長時間與AI互動中，對AI產生極大依賴與信賴，自信自己的特殊想法「被看見且被肯定」，此外，有報導指出ChatGPT在某些情況下未能準確識別用戶存在妄想或心理危機，強化錯誤的信念。
對此，生成式AI開發公司如OpenAI等消防認，AI模型偶有未能識別心理困擾之情形，並宣稱正持續優化回應策略，加強對異常行為與情緒困難的偵測與介入，專家呼籲，用戶尤其在情緒低落及心理困擾時，應避免倚賴AI當作情感寄託，並應提升AI應用的「安全閥」設計，防止無意間強化妄想與危險行為。
