專家:2024社群媒體假消息散播將更嚴重

編譯/夏洛特

一些專家和監管AI公司的高層警告說,新一代人工智慧(AI)工具因為能夠生成模仿人類語氣的文本和以假亂真的圖像,讓其可以在社群媒體上大量傳播假消息,並有誤導人們的風險,包括影響 2024 年的美國大選。

專家表示,AI因為可以生成大量看似非常真實的內容,而使傳播假消息更容易也更可信。 (示意圖/123RF)

據外媒報導,專家表示,基於社群媒體平台是數十億人獲取資訊的平台,也是不良行為者散播假言論的地方,因此這些公司在應對此類風險上負有重大責任。 但他們現在卻因為AI而面臨著一系列假消息傳播風暴,這將使他們更難跟上下一波選舉的錯誤資訊傳播。

AI因為可以生成大量看似非常真實的內容,而使傳播假消息更容易也更可信。這對於有組織的團體,和有動機干預美國選舉的外國對手來說更是有效的工具。 在之前,國外組織可能需要雇用大量的巨魔農場,才可以影響美國和其他地方的選舉。但現在,只要「一個擁有AI的有心人士」,就可以部署成千上萬個AI機器人以散播假消息。

在早先威脅都未處理完善的狀況下,而基於美國立法者和監管機構也都尚未對AI技術實施真正的護欄,情況可以說是雪上加霜。技術心理學研究所的AI研究員兼道德顧問 、曾在 Facebook 母公司 Meta 從事負責任的AI工作David Evan Harris 就說:「我甚至對這些立法者處理舊類型威脅的能力都沒有信心,而現在又出現新威脅。」

鑑於AI技術在過去一年中的快速進步,到2024年美國大選時,假圖像、文本、音訊和影片可能都會更難辨別。Harris說:「距離大選還有一年多的時間。 這些工具將會變得更好,而在會使用的用戶手中,它們會非常強大。」他說,2016 年和 2020 年社群媒體上發生的各種錯誤資訊和選舉干預都可能會因為AI而加劇。
參考資料:CNN

瀏覽 509 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button