AI幻覺問題捲土重來 用戶回報ChatGPT胡言亂語

編譯/莊閔棻

人工智慧(AI)聊天機器人ChatGPT 似乎有點精神錯亂,不但開始胡言亂語,還發出無意義的回應,引發用戶群的困惑和擔憂。一些用戶表示,ChatGPT的回覆變成亂碼、奇怪的語言和令人看不懂的內容。

近期聊天機器人ChatGPT 出現胡言亂語,回覆變成亂碼、奇怪的語言和令人看不懂的內容,OpenAI承認問題並著手調查。示意圖。圖/123RF

ChatGPT錯亂

據外媒報導,聊天機器人的反應變得越來越不穩定,讓使用者感到困惑和沮喪。一位名為Sean McGuire 的用戶就分享了一些截圖,展示ChatGPT 的古怪行為,包括用無意義的「西班牙式英文」進行回應和生成無意義的內容。一位 Reddit 用戶則指出,GPT-4似乎「完全進入了幻覺模式」,自「GPT-3 早期」以來,從未真正發生過如此嚴重的情況。

更多新聞:你的最佳助手!ChatGPT 讓生活更輕鬆的 6 種方式

OpenAI承認問題

OpenAI 也承認這個問題,並表示他們正在調查來自 ChatGPT 的意外回應的報告,並在隨後的更新表明,該問題已被識別並正受到監控。ChatGPT許多錯誤回覆看起來與社群媒體上常見的一個迷因類似,該迷因要求其他人在手機上輸入一個詞,然後點擊隨機出現的下一個詞,看看最後會產生什麼結果。

出問題的原因

關於出問題原因的猜測非常多,有些用戶認為可能是駭客攻擊或硬體故障,其他人則指出,可能是該AI模型中預測輸出的「權重」受到破壞。AI專家表示,若OpenAI 對模型的工作原理和訓練資料更透明,這就不會成為問題。他認為,此類事件強調,我們需要更清晰地了解這些系統的運作方式及訓練的數據。

參考資料:InsiderThe Verge

瀏覽 406 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button