百度 Ernie 會寫詩 拒絕回答敏感問題
編譯/莊閔棻
測試顯示,搜尋引擎巨頭百度的Ernie機器人可以在幾秒鐘內生成鮮花的圖片,並寫出唐朝風格的詩句,但會拒絕回答有關中國國家主席習近平的問題,說它沒有學會如何回答。
根據《路透社》的報導,日前,百度發布了最接近OpenAI聊天機器人ChatGPT的中國版本「文心一言」(Ernie),並開始允許用戶申請使用。而在測試後,《路透社》發現,該機人不會回答「敏感」問題。
當路透社向Ernie提出了幾個關於習近平的問題時,包括他是否是一個好的領導人,他對中國的貢獻等,對於其中的一些問題,Ernie以兩段關於習近平的教育和角色的描述作為回應,但它拒絕回答其中的大多數問題。它說:「作為一個人工智慧大型語言模型,我還沒有學會如何回答這個問題,你可以問我一些其他問題,我會盡力幫助你解決這些問題。」
Ernie也以類似的方式回答了有關中國六四事件的問題,以及當局對待新疆西部地區維吾爾族穆斯林的問題。有時,它還會建議用戶換一個話題。Ernie會說:「讓我們換個話題,重新開始。」
自Ernie推出後,一些分析師和用戶很快就開始發布他們對Ernie機器人的正面評價,以及與ChatGPT的側面比較,這推動了百度的股價上漲。不過,人們也一直很好奇Ernie和其他正在開發的中文聊天機器人會如何處理中國大陸的敏感話題,畢竟中國大陸當局對網路進行了嚴格審查。
不過,這樣的答案並不局限於習近平或中國的敏感話題。當被問及有關美國總統拜登和他的前任川普的類似問題時,Ernie機器人也會產生同樣的重啟提示。然而,機器人能夠對一些關於國際關係的問題給出長篇回答,比如為什麼美中關係惡化,不過當被問及更有爭議的問題時,比如中國是否應該使用軍事力量來統一台灣時,它又改變了話題。
這非常符合百度對政府提出的,要審查敏感話題搜尋結果的要求。當被問及如何處理敏感問題時,該機器人表示,在判斷一個話題是否可以「公開討論」時,它會將相關法律和道德標準考慮進去。
而測試表明,由微軟支持的ChatGPT聊天機器人並不排斥回答這類問題。因此,先前,ChatGPT就受到中國政府的禁止。當時監管機構告訴中國的主要科技公司不要向公眾提供ChatGPT的使用權,因為這個由人工智慧驅動的聊天機器人,對用戶詢問給出不受審查的答覆,引發了北京的擔憂。
參考資料:Reuters
瀏覽 842 次