小心!2024 年 5 個最可怕的AI威脅

編譯/莊閔棻

在我們進入數位時代的同時,人工智慧(AI)的發展也日新月異。然而,這種進步並非全無風險。網路安全大師、北歐最大的網路安全公司 WithSecure 的首席研究長 Mikko Hyppönen 對此就有深入的研究,為了讓我們對AI的未來有更清晰的認識,他提出2024 年我們將面對的 5 個最可怕的AI威脅。以下就讓我們帶大家來看看這些威脅,對未來的數位世界有更多的了解。

進入數位時代的同時,人工智慧的發展也日新月異。然而,這種進步並非全無風險。(圖/123RF)

深度造假

近幾個月來,人們對深度造假技術的擔憂開始成為現實。 根據倫敦身分驗證平台Onfido 的研究,2023 年,深度造假詐騙增加 3,000%。隨著深度假貨變得更加精緻、更容易獲得和更便宜,它們的規模可能會迅速擴大。Hyppönen表示,「雖然目前還沒有大規模問題發生,但在很短的時間內就會成為一個問題。」

更多新聞:2024新展望/更強大AI、AI助理 企業搶用!AI如何改變全世界?

深度詐騙

和深度造假不一樣,「深度詐騙」的「深度」指的是騙局的大規模。 這是透過自動化實現的,自動化可以將目標從少數擴展到無限。Hyppönen 說,「你可以同時詐騙 10,000 名受害者,而不是三到四個。」如,透過 Stable Diffusion、DALL-E 和 Midjourney,就可以產生無限數量的完全可信的 Airbnb,但沒有人能夠找到它們。

支援大型語言模型(LLM)的惡意軟體

現在,AI已經在編寫惡意軟體了。 Hyppönen 的團隊就發現三種蠕蟲病毒,它們會在每次惡意軟體複製時啟動 LLM 重寫程式碼,相信這在未來也會持續增加。

零日漏洞的發現

另一個新出現的問題涉及零日漏洞。AI雖然可以偵測這些威脅,但同時,它也可以創造它們。Hyppönen表示,雖然目前AI還沒辦法成功創造零日漏洞,但他相信這將在短期內成為現實。

自動惡意軟體

幾十年來,WithSecure 一直將自動化融入防禦之中。 這使該公司比攻擊者更具優勢,因為攻擊者仍然主要依賴手動操作。但現在,隨著完全自動化的惡意軟體活動出現,「這將使遊戲變成好的AI與壞的AI。」

參考資料:thenextweb

瀏覽 1,267 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button