AI幻覺問題捲土重來 用戶回報ChatGPT胡言亂語
編譯／莊閔棻
人工智慧（AI）聊天機器人ChatGPT 似乎有點精神錯亂，不但開始胡言亂語，還發出無意義的回應，引發用戶群的困惑和擔憂。一些用戶表示，ChatGPT的回覆變成亂碼、奇怪的語言和令人看不懂的內容。
ChatGPT錯亂
據外媒報導，聊天機器人的反應變得越來越不穩定，讓使用者感到困惑和沮喪。一位名為Sean McGuire 的用戶就分享了一些截圖，展示ChatGPT 的古怪行為，包括用無意義的「西班牙式英文」進行回應和生成無意義的內容。一位 Reddit 用戶則指出，GPT-4似乎「完全進入了幻覺模式」，自「GPT-3 早期」以來，從未真正發生過如此嚴重的情況。
更多新聞：你的最佳助手！ChatGPT 讓生活更輕鬆的 6 種方式
OpenAI承認問題
OpenAI 也承認這個問題，並表示他們正在調查來自 ChatGPT 的意外回應的報告，並在隨後的更新表明，該問題已被識別並正受到監控。ChatGPT許多錯誤回覆看起來與社群媒體上常見的一個迷因類似，該迷因要求其他人在手機上輸入一個詞，然後點擊隨機出現的下一個詞，看看最後會產生什麼結果。
出問題的原因
關於出問題原因的猜測非常多，有些用戶認為可能是駭客攻擊或硬體故障，其他人則指出，可能是該AI模型中預測輸出的「權重」受到破壞。AI專家表示，若OpenAI 對模型的工作原理和訓練資料更透明，這就不會成為問題。他認為，此類事件強調，我們需要更清晰地了解這些系統的運作方式及訓練的數據。
瀏覽 479 次
