ChatGPT很聰明  但也愛撒謊

編譯／莊閔棻

日前，一個名為 ChatGPT 的新型人工智慧工具因為可以解數學題、寫論文和寫研究報告，而在網路上引起了一陣轟動。但同時，這也引起了一些擔憂，一些教育工作者就擔心，這種人工智慧系統有可能改變學術界，因為它可以幫學生寫作業。

根據《全國公共廣播電台》的報導，賓州大學華頓商學院教授 Ethan Mollick 在推特上表示：「人工智慧基本上毀掉了家庭作業」。他指出，很多學生透過抄襲 AI 編寫的作品來作弊。但同時，他也認為這個AI作為學習夥伴令人驚嘆，因為它不但可以幫他總結學術論文，還可以找出錯誤。

但無論如何，因為ChatGPT 是由人類創造的，是AI公司OpenAI 透過大量真實人類對話的數據集所訓練的。因此，就像任何新的AI技術一樣，ChatGPT有其局限性。而最嚴重的就是，它可能會自信的給出完全錯誤的答案。Mollick表示，這就像與一個無所不知、渴望取悅，但有時會對你撒謊的實習生聊天一樣。

瑞士的數據科學家 Teresa Kubacka就特地問了ChatGPT一些她確定不存在的東西。但ChatGPT不但給出了具體、合理的答案，還附有引用資料。但經過查證後，Kubacka表示，不但ChatGPT回答的內容是假的，連引用文獻也不存在。

OpenAI 的首席執行長Sam Altman表示，對於現在來說，依賴該工具來處理任何「重要」的事情都是不對的，這只是進步的預演。日前，Meta才因為有人批評其新AI 語言模型散佈帶有偏見的荒謬內容，而導致其關閉。

艾倫人工智慧研究所首席執行長 Oren Etzioni表示，如果人們不仔細核實或證實AI給出的答案的真實性，那將是一個問題。

參考資料：NPR

瀏覽 2,346 次