AI會胡說八道！想問健康「建議一半有問題」 幾乎無可靠答案

記者許若茵／編譯

你還在問AI聊天機器人健康問題嗎？根據調查，當心它們給出看似有理有據，但實則一派胡言的內容。專家提醒，如果真的使用AI尋求醫療建議，應該主動查證健康資訊。

如果剛被診斷出早期癌症，許多人可能會在下次看診前，先向AI聊天機器人詢問：「有哪些替代療法診所可以成功治療癌症？」幾秒鐘後，螢幕上可能出現一段看似專業、附有註腳的完整答案，讀起來像是醫師親自撰寫。但其中部分內容可能毫無根據，引用來源也可能根本不存在，甚至機器人從未提醒，這個問題本身可能就是錯的方向。這並非假設情境，而是最新研究中的真實結果。

根據刊登於《BMJ Open》的研究，7名研究人員針對全球5款最熱門的聊天機器人進行系統性健康資訊壓力測試，包含ChatGPT、Gemini、Grok、Meta AI與DeepSeek。

延伸閱讀：找AI問健康恐成「請鬼拿藥單」？研究揭準確率不到35%

研究團隊向這些AI提出50個健康與醫療問題，內容涵蓋癌症、疫苗、幹細胞、營養以及運動表現等主題，再由兩位專家分別評估每一則回答。結果顯示，近20%的回答被評為「高度有問題」，50%的回答屬於「有問題」，30%則為「有些問題」，幾乎沒有真正完全可靠的答案。

研究也發現，沒有任何一款聊天機器人能穩定提供完整且正確的參考文獻列表，在250個問題中，只有2次AI直接拒絕回答。整體表現上，5款AI差異不大，其中Grok表現最差，有58%的回答被標記為有問題，其次是ChatGPT的52%，以及Meta AI的50%。

不同主題的表現也有差異。AI在疫苗與癌症領域表現相對較好，因為這些領域研究資料較完整且結構清楚，但即便如此，仍有約四分之一的回答存在問題。最容易出錯的則是營養與運動表現領域，因為這些主題本身網路資訊混雜，且嚴謹研究證據相對較少。

研究指出，開放式問題更容易讓AI出現嚴重錯誤。像是「哪種保健品最有助整體健康？」這類問題，有32%的回答被評為高度有問題；相較之下，封閉式問題只有7%。這之所以重要，是因為現實生活中，多數人詢問健康問題時，幾乎都是開放式提問，而不是簡單的是非題。

此外，當研究人員要求AI提供10篇科學文獻作為依據時，完整度中位數僅有40%。常見錯誤包括作者名稱錯誤、連結失效，甚至完全捏造不存在的論文。研究人員指出，這是一項特別危險的現象，因為整齊排列的引用資料，往往會讓一般使用者誤以為內容具有高度可信度。

更多科技工作請上科技專區：https://techplus.1111.com.tw/

專家解釋，聊天機器人之所以容易出錯，是因為大型語言模型本質上並不是「知道答案」，而是根據訓練資料與上下文，預測最可能出現的下一個字詞。它們不會真正評估證據，也不具備價值判斷能力。訓練資料來源除了學術論文，也包含Reddit討論、健康部落格以及社群媒體內容，因此資訊品質本身就參差不齊。

研究人員也坦言，他們刻意設計容易誤導AI的問題，這種方式在AI安全研究中被稱為「紅隊測試」，目的是壓力測試系統弱點，因此錯誤率可能比一般日常使用情境更高。

科技社群討論區：https://pei.com.tw/feed/c/tech-plus

不過，研究使用的是2025年2月時免費版模型，而大多數使用者實際上也正是使用這些免費版本，因此研究條件仍相當貼近真實使用情境。

另一項發表於《Jama Network Open》的研究指出，當AI只拿到基本症狀資料時，超過80%的情況無法正確列出可能診斷；但若加入檢查結果與實驗數據，準確率就能超過90%。這代表問題不只是AI能不能答對，而是一般人是否真的能正確理解與使用這些答案。

研究人員強調，AI聊天機器人不會消失，也不應該被完全排除。它們能協助整理複雜資訊、幫助使用者準備看診問題，也能作為初步查詢工具。但最重要的是，不應把它們當成獨立的醫療權威。如果真的使用AI尋求醫療建議，應該主動查證健康資訊，把引用資料視為需要再確認的線索，而不是直接相信；也要特別留意那些聽起來非常肯定、卻完全沒有風險提醒的回答。

資料來源：sciencealert