AI 強化資安  提前預測潛在威脅並制定防護策略

編譯/Cynthia

在當今資訊爆炸的時代,人工智慧(AI)的崛起如同潮水般風靡全球,尤其是生成式人工智慧(GenAI)的興起,不僅深刻地影響組織運作,也徹底改變資安的面貌。究竟AI在資安領域有著怎樣的威力 ?

GenAI的崛起帶來增強系統測試,也可能被罪犯利用,生成各種惡意軟體,進一步加劇資安威脅的複雜性。(圖/截取自 Help Net Security)

AI 強力守護,資安新境界

數據量急遽增長,AI透過先進技術為組織提供強大的防護能力。根據西班牙國家密碼中心(National Cryptology Centre,NCC)報告,AI提升威脅檢測和應對,透過歷史數據預測潛在威脅,有效制定防禦策略。AI利用生物識別技術和使用者行為辨識技術準確認證身份,顯著減少未經授權訪問風險。同時,AI辨識網路釣魚企圖,評估安全配置和政策,找出可能弱點。

更多新聞:GenAI助長釣魚風暴 企業如何自保?

然而,這敏捷性成為網路罪犯武器,他們快速適應新安全措施,形成新威脅,使AI在資安角色更複雜。資安領域的未來,仰賴AI強大的防護機制,同時需不斷因應罪犯變化,更能維護數據安全。

AI 挑戰與風險,資安抉擇

儘管AI在資安表現亮眼,西班牙NCC指出一系列挑戰。對抗攻擊儼然成為首要問題,網路罪犯透過欺騙AI模型,迫使其做出錯誤或惡意決策。過度信賴自動化解決方案可能導致缺乏解釋性、自動化失敗、誤判安全性等問題。NCC強調AI應與傳統方法並用,而非全面取代。錯誤識別問題可能導致未發現的安全漏洞或無必要的中斷。同時資料隱私和道德問題也引起廣泛的關切。

GenAI的崛起帶來增強系統測試,也可能被罪犯利用,生成各種惡意軟體、深度偽造、偽造網站和具有說服力的網路釣魚郵件,進一步加劇資安威脅的複雜性。資安領域必須謹慎取捨,以確保AI的應用在增進效能的同時,不帶來潛在風險。

政府積極因應,資安國際趨勢

隨著AI技術不斷進步,網路罪犯也在不斷尋找新的攻擊方式,使得資安風險日益嚴峻。為因應這些挑戰,美國總統去年十月發布行政命令,主要在有效管理風險,確保AI的安全性、可信度和值得信賴性。同時,英國國家資安中心(NCSC)提供針對AI系統開發和部署的安全指南,以確保安全的AI系統發展和應用。

這突顯各國政府對於資安的高度重視,呼籲全球共同努力,充分發揮AI在資安領域的潛力,以更強大的安全措施保護數據。

資料來源:Help Net Security

瀏覽 295 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button