駭客比你懂用AI？OpenAI揭露攻擊者藉多模型協作加速網路攻擊

記者孫敬／編譯

OpenAI最新發布的《打擊惡意濫用人工智慧》（Disrupting Malicious Uses of AI）報告指出，駭客和網路資訊戰組織正在朝向更有組織性地使用人工智慧的趨勢發展。調查結果顯示，駭客正將他們的行動分散到多個AI系統上，例如，使用ChatGPT進行偵察和規劃，同時仰賴其他模型來執行和自動化攻擊。

OpenAI觀察到，攻擊者並未改變他們既有的攻擊方法，而是將AI整合進現有的戰術中，藉此讓效率和速度都大幅提升，無論是編寫惡意軟體、優化網路釣魚，還是管理線上詐騙。

延伸閱讀：希望台積電加碼產能 奧特曼直言OpenAI不選英特爾做晶圓代工

惡意AI應用，從寫惡意碼到詐騙中心的日常管理

除了已知的WormGPT和FraudGPT等惡意AI工具外，新的專用工具也持續浮現，例如SpamGPT協助網路犯罪分子繞過電子郵件安全過濾器，進行精準的垃圾郵件投放，MatrixPDF則能將普通PDF檔案轉換成惡意軟體。

值得一提的是，這份報告距離OpenAI上一份關閉10個與中國、俄羅斯、伊朗和北韓有關的惡意AI行動，僅僅時隔4個月。

報告提到不同地區的駭客和犯罪集團，如何有針對性地利用 ChatGPT。

• 俄語行動者：曾利用ChatGPT來編寫和優化遠端存取工具和憑證竊取工具的程式碼。即使模型拒絕執行帶有惡意的直接提示，使用者仍能從中提取功能性程式碼片段，並在其他地方組裝成工具。OpenAI 發現，這些互動並未賦予駭客透過開源程式碼無法取得的新能力。
• 韓語行動者：利用ChatGPT協助程式碼除錯、憑證竊取程式、以及與加密貨幣相關的網路釣魚。這些帳號在執行特定技術任務（如瀏覽器擴充功能轉換或VPN配置）時，展現出類似企業開發團隊的結構化工作流程。
• 華語行動者：更進一步要求模型生成多語言的網路釣魚內容，並協助惡意軟體除錯。他們的活動與資安公司Volexity和Proofpoint報告中鎖定學術界、智庫和半導體產業的攻擊行動吻合。根據OpenAI的說法，這些使用者主要目的是提高效率，而非開發新的攻擊方法。

AI偽造投資話術與社會監控提案

報告同時揭示了AI如何被利用於既有的詐騙網絡。有追蹤到位於柬埔寨、緬甸和奈及利亞的詐騙行動，利用ChatGPT來翻譯訊息、編寫虛假投資話術，並管理大規模詐騙中心裡的日常物流工作。

例如，有詐騙集團假扮成理財顧問，在WhatsApp上經營虛假的交易群組，並完全透過AI生成所有聊天內容，讓對話顯得真實可信。另一個網路則利用ChatGPT設計虛假的線上投資公司檔案，甚至編造了員工的詳細履歷。

OpenAI也發現ChatGPT被用於偵測詐騙的次數，大約是用於製造詐騙的三倍。

在國家資訊戰方面，OpenAI報告點出與中國政府實體相關的帳號，曾利用ChatGPT發起大規模社群媒體監控系統的提案。其中一位用戶請求模型協助概述一個「高風險維吾爾相關流入預警模型」，目的在透過旅行和警方數據追蹤個人。其他使用者則專注於描繪和資訊收集，要求ChatGPT摘要活動人士的貼文或辨識請願書的組織者。OpenAI表示，模型僅返回了公開數據，但這些請求背後的意圖已引起對監控相關使用的擔憂。

由俄羅斯發起的「停止新聞」（Stop News）行動在被OpenAI停止後再次浮現，利用AI編寫影片腳本和宣傳文字。這些內容被翻譯並製作成短影片，在YouTube和TikTok上傳播，用以讚揚俄羅斯並批評西方國家，但參與度仍然偏低。

DeepTempo執行長Evan Powell指出，對一般讀者來說，這可能不令人驚訝，但大多數人可能沒有意識到，現今的網路安全防禦系統對於AI驅動的攻擊特別脆弱。傳統防禦幾乎完全基於靜態規則，AI攻擊者會訓練其系統來規避這些固定的模式檢測，以更高的速度滲透企業和政府系統。他警告，AI正被用於規劃行動，大幅提升了攻擊者的效率，使原本需要大型組織或國家級別的行動，現在只需一個人就能執行，其影響令人感到恐懼。

資料來源：Hackread