兩面刃  人工智慧造福用戶卻也加強駭客攻擊力

編譯／Cynthia

人工智慧（AI）技術愈進步，網路安全正面臨前所未有的挑戰。資安公司Radware在「2024年全球威脅分析報告」（2024 Global Threat Analysis Report）中指出，人工智慧技術對於網路安全的影響日益顯著，特別是在駭客攻擊、私人GPT模型濫用、零日漏洞利用和深度偽造等方面，帶來新的挑戰和風險。

即時駭客攻擊

人工智慧工具的廣泛使用讓駭客能夠利用私人GPT模型進行攻擊，對系統構成威脅。在2024年3月，人工智慧安全公司HiddenLayer研究人員發現，駭客攻擊竟然能夠繞過Google的Gemini建立的防護措施，這顯示即使是最新的大型語言模型（LLMs）也容易受到提示入侵的威脅。

更多新聞：深度偽造泛濫成災    5 招判斷真假不被欺騙

另一篇於3月發表的論文，報告了馬里蘭大學（University of Maryland）研究人員監督在ChatGPT、GPT-3和Flan-T5 XXL等最先進的大型語言模型上，部署60萬個對抗性提示。這些研究顯示，即使是目前最先進的人工智慧模型也無法完全抵擋提示入侵。

私人GPT模型的威脅

私人GPT模型的濫用也是一個嚴重威脅，這些模型缺乏商業提供商所實施的保護措施，讓惡意行為者有更多攻擊選擇，更容易進行釣魚攻擊、創建惡意程式碼等活動。

WormGPT、FraudGPT、DarkBard和Dark Gemini等私人GPT模型，聲稱能提供創建惡意程式碼、釣魚網頁和難以被偵測的惡意軟體等服務，成為網路詐騙的新工具。創建者通常以每月數百到數千美元的費用提供使用權，使得這些模型在地下市場上廣泛流通。

最近伊利諾大學（University of Illinois Urbana-Champaign）的研究表明，最新的大型語言模型代理能夠自主入侵網站，甚至GPT-4能夠利用87％的重大漏洞，顯示人工智慧在攻擊中的潛力。

零日漏洞利用的增加

Radware報告指出，開源生成式人工智慧工具的廣泛使用將提升駭客的效率，可能導致更多零日漏洞利用攻擊，這些系統的快速學習加速駭客創造複雜攻擊的能力，例如發現軟體漏洞。

IBM指出，66％的組織已成功運用人工智慧技術應對2022年的零日攻擊和威脅。Radware分析師補充說，駭客可能進一步利用人工智慧自動化掃描和網路入侵，增加攻擊力。

更真實的詐騙和深偽造

根據Radware報告指出，另一個新興的人工智慧相關威脅是「高度可信的詐騙和深度偽造」。作者提到像Google Gemini 生成式人工智慧系統，駭客運用它僅需幾個按鈕即可創造假內容。隨著多模型的興起，跨文本、圖像、音訊和影像的人工智慧系統，也使得深偽造透過提示來創造成為可能。

Onfido研究顯示，2023年深偽造詐騙嘗試增加30倍，其中廉價的臉部交換應用程序成為最受歡迎的工具。作者表示，雖然道德供應商將確保設置防護措施以限制濫用，但類似系統將進入公共領域，駭客將其轉化為真實的生產引擎，這將使罪犯能夠運行完全自動化的大規模魚叉式釣魚和虛假資訊宣傳活動。

資料來源：TechRepublic

瀏覽 117 次