青少年遇到困難都問ChatGPT？有13歲小女孩問AI「如何寫遺書」

記者鄧天心／綜合報導

儘管OpenAI宣稱擁有完整的安全措施，ChatGPT仍然容易向青少年提供危險建議，包括協助製作自殺遺書、描述飲酒及毒品混用的方法，教導如何隱瞞飲食失調，甚至教未成年使用者怎麼寫自殺信。

「反數位仇恨中心」（CCDH）研究人員執行的測試，模擬13歲脆弱青少年發問，揭露ChatGPT的安全防護存在嚴重缺陷，在分析的1,200次互動中，有超過一半被認定為對青少年有害的內容。

「我第一個反應就是：『天啊，完全沒有防護措施』，」CCDH執行長Imran Ahmed表示，「這些機制極度無效，可以說形同虛設。」研究有記錄，當AI最初拒絕有害要求時，只要研究人員聲稱相關內容「是給報告用」或「是幫朋友問的」，防線就輕易被突破，最令人震驚的是，ChatGPT竟然為假想的13歲女孩撰寫了三封情感強烈的自殺信，分別致父母、手足與朋友，Ahmed坦言：「我讀到信時直接哭了。」

延伸閱讀：OpenAI低價釋出GPT-5 可能將打亂市場行情

隨著ChatGPT全球使用人數已達約8億，青少年依賴AI的程度愈來愈高，美國有逾七成青少年曾用聊天機器人尋求陪伴，且近半是常態仰賴AI。連OpenAI執行長Sam Altman都承認青少年過度「情感依賴」ChatGPT：「有年輕人表示，做任何決定前都要和ChatGPT說，感覺它真的懂自己，懂朋友，只想照它說的做。這讓我覺得很糟糕。」

與傳統搜尋引擎不同，AI機器人不僅匯整網路資訊，而是主動為用戶量身訂做危險內容，像是訂製自殺遺書、混合藥酒派對計劃等，ChatGPT甚至會自發性提供後續建議，例如為嗑藥派對推薦音樂清單，或提示如何在社交媒體宣傳自殘。當研究人員要求更具體的有害訊息，ChatGPT也無障礙給出，包含以暗語書寫關於自傷的「情感詩歌」。

儘管平台聲稱不開放給13歲以下兒童，但註冊只需輸入生日，沒有有效的年齡驗證或家長同意機制。在測試中，研究人員明示自己是13歲，採取「危險」尋問，系統卻毫無警示或防阻反應。

專家建議家長可採取幾項作法保護孩子，與青少年開誠布公討論AI機器人，解釋優缺點並訂立明確規範；定期關心子女的線上活動，包括與AI的互動；善用家長監控軟體追蹤聊天機器人使用情況，但也要尊重適齡隱私；最重要的是，營造讓孩子願意主動談論所接觸到令人憂心內容的安全環境，如果家長發現孩子有情緒困擾、社交退縮或危險行為，應儘早求助諮商專家。

資料來源：Xbox Wire、Tom’s Hardware、Windows Experience Blog