中國正在用ChatGPT產出大量假消息 OpenAI調查證實

記者鄧天心／綜合報導

美國AI巨頭OpenAI近期發現中國濫用聊天機器人ChatGPT等生成式AI發動假訊息攻擊，甚至有網路駭客行動與蒐集情報，OpenAI提到，雖然目前偵測到的中國相關行動規模不大，目標受眾也有限，但這些團體的操作手法與觸及範圍逐步擴大中，2022年底ChatGPT問世以來，外界對生成式AI技術被濫用的疑慮不斷升高，原因在於AI能夠輕易產出類人文字、圖像及音訊，也被用來製造假訊息。

更多新聞：市場信心不足！華為AI晶片努力追趕輝達 但阿里巴巴、騰訊不買單

規模有限但手法升級 分化議題、攻擊台灣遊戲

報告揭露，部分中國組織利用ChatGPT帳號，針對中國議題在社群媒體大量產製貼文。例如，攻擊以台灣為主題的電玩遊戲、對巴基斯坦維權人士發佈不實指控，以及散播美國國際開發署（USAID）關閉的錯誤訊息。有些內容甚至批評美國前總統川普的關稅政策，製造社會對立。

AI助攻駭客、情報蒐集 假冒記者滲透社群

OpenAI進一步指出，這些中國團體不僅用AI生成假訊息，還輔助駭客行動，包括進行開源情報蒐集、腳本修改、系統設定除錯，甚至開發破解密碼和自動化社群媒體的工具。

其中一個名為「Sneer Review」的行動，利用ChatGPT在X（前Twitter）、TikTok、Reddit、Facebook等平台，發佈多語言（包括中文、英文、烏爾都語）短文和留言，假裝展開「真實」辯論，並撰寫長篇文章宣稱某台灣遊戲引發巨大民憤。

另有中國背景的團體假冒記者和地緣政治評論員，利用ChatGPT撰寫社群帳號簡介、翻譯中英文訊息，甚至針對美國參議員發送特定訊息，企圖影響政策討論。

面對這些濫用情形，OpenAI表示已定期發布惡意活動報告，並持續封鎖違規帳號。OpenAI強調，將持續監控並強化平台安全，防止AI技術被有心人士利用，成為假訊息與資訊戰的幫兇。

瀏覽 412 次