AI資訊來源多元　恐引用假消息

功能強大的AI系統架構大型語言模型(large language models)，它們經過大量的文本和影音內容的訓練，可以成為客戶服務的聊天機器人，甚至能以人類語言流暢編寫文章；但是，由於AI提取資訊的來源管道多元化，目前科技社群又沒有通用的規範，即可有能會引用錯誤訊息、甚至是假消息，對此，專家感到憂慮。

示意圖：123RF

依當前科技演算水平，AI非常擅長以人類語言的流暢程度編寫文字，甚至可以完成高中論文，但工程師指出，「他們無法總是實事求是，儘管看起來文意連貫，邏輯正確，但其實內容卻是錯誤的。」只是多數的科技公司都會對AI的運作方式保密，導致一般人很難理解為何AI會出錯，成為錯誤消息、種族主義訊息和其他危害的來源。

Facebook和Instagram的母公司Meta AI的總經理表示，「一群又一群的人宣布在做AI工作，但因為公開度很低，一般人幾乎沒有能力真正深入理解這些AI背後的模型如何運作。」於公司來說，隱藏模型和資料庫是他們的經營祕訣，儘管他們也經常擔心AI會失去控制，導致被人濫用。

計算機科學副教授Liang指出，「錯誤的訊息會倍增，而且人們會越來越難分辨訊息是來自AI或是人類。」雖然多數的公司都會對內部的AI設計保護措施，但Liang指出，AI科技社群應該要有更通用的基本準則來規範研究和決策，比如何時將新的模型放到網路上進行使用。（記者／白水堯）

瀏覽 681 次