美大選資訊可靠嗎 AI公司也怕AI使壞
編譯/黃竣凱
美國大選結果即將揭曉,人工智慧(AI)技術扮演的角色逐漸浮出水面,生成式AI的角色變得前所未有的重要。隨著ChatGPT等AI產品的普及,OpenAI和其他AI公司必須考慮如何提供準確的選舉相關資訊,同時避免虛假訊息擴散的風險。對這些公司而言,提供選民所需的真實、可靠資訊已經成為技術和道德的雙重考驗。
OpenAI引導查閱可信來源
據報導,OpenAI宣布從11月5日起,當用戶詢問ChatGPT選舉結果時,將建議他們參考美聯社、路透社等權威新聞機構或當地政府網站,以獲得最新的選舉資訊。OpenAI強調,過去一年內已設置多重防護措施,避免AI生成不實內容,並會根據選舉過程中的實際情況持續調整。
Perplexity專設選舉資訊中心
與此同時,AI新創公司Perplexity則為提供選民即時資訊,推出「選舉資訊中心」,透過AI系統解答選舉相關問題,並提供投票地點、投票條件及候選人分析等資訊。Perplexity表示,所有內容都基於非黨派的權威來源,並避免使用訓練數據中的既有知識,以減少資訊誤導的可能。
AI工具的優勢與潛在風險並存
AI文本分析平台Copyleaks的聯合創辦人Alon Yamin表示,AI的即時更新能力,能幫助選民了解選舉動態並發現選民趨勢。但他也指出,AI生成內容也可能引發錯誤資訊擴散,尤其在模型的數據訓練偏見問題,無法完全解決的情況下,這一風險更顯得重要。
Google等大公司謹慎應對選舉資訊需求
與積極參與的AI新創公司不同,Google採取更保守的立場。Google宣布,其AI產品Gemini將不處理選舉相關的查詢,以免引發誤導,而其主要搜尋引擎也僅展示傳統的「熱門故事」內容,而未採用AI概述,顯示出其在選舉資訊處理上的謹慎態度。
專家呼籲加強立法管控
對於AI在選舉中的應用,美國負責任創新會(Americans for Responsible Innovation)聯合創辦人Brad Carson則認為,僅靠企業的自我約束並不夠,應由政府推動立法,要求AI產品在生成內容時明確標註來源,以遏制AI造成的假訊息擴散問題。他指出,AI公司主動限制選舉資訊雖值得肯定,但仍需政策支持以確保透明。
參考資料:Insider
※探索職場,透視薪資行情,請參考【科技類-職缺百科】幫助你找到最適合的舞台!
瀏覽 713 次