微軟攜手OpenAI  揭露最新AI資安隱憂

記者/竹二

AI發展帶來便利、解決問題,但也伴隨許多資安隱憂,根據微軟公布最新的Cyber Signals研究報告揭露攻擊者如何運用AI提升攻擊效率、進行身份欺詐,攻擊者試圖使用大型語言模型(LLMs)來增強正在進行的網路攻擊行動,雖然攻擊的動機和複雜程度各有不同,但共同任務包含偵察、編碼和協助學習及使用人類和機器語言。

微軟近日宣布與OpenAI合作,揭露有關追蹤國家型攻擊者的手法與路徑。(圖/微軟提供)

微軟揭露國家型攻擊者AI攻擊行動

微軟近日宣布與OpenAI合作,揭露有關追蹤國家型攻擊者的手法與路徑,包含來自俄羅斯的Forest Blizzard、北韓的Emerald Sleet、伊朗的Crimson Sandstorm、以及中國的Charcoal Typhoon和Salmon Typhoon,揭示微軟觀察到這些攻擊者在AI方面採取的早期行動,並記錄如何阻止他們的活動,以保護AI平台和用戶。

更多新聞:Meta示警!間諜軟體蒐集數據也入侵隱私 還可遠端啟動裝置功能

微軟也公布指導及採取行動的原則,包含識別和對惡意威脅行為者的行動、通知其他AI服務供應商的使用,以及與其他利害關係者合作以及提升透明度,藉此減輕因為國家型持久攻擊威脅者、持久操縱者和使用AI平台和API的網絡犯罪集團帶來的風險。

AI詐欺、語音合成成新興威脅

除了國家型攻擊之外,AI引發的詐欺事件也是另一重要議題,語音合成技術的濫用就是一個例子,3秒的語音樣本可以訓練模型讓它聽起來像任何人,微軟指出,人們必須了解惡意行為者如何利用AI破壞長期存在的身份驗證系統,以便應對複雜的詐欺案件和其他掩蓋身份的新興威脅。

微軟強調,網絡犯罪分子和國家支持的攻擊行為者,正尋求利用AI與LLMs來提高攻擊的速度及範圍,他們正採用多種方法來保護自身免受這類網絡攻擊威脅的侵害,像是人工智慧的威脅偵測、行為分析、機器學習模型、零信任原則以及加強驗證等。

瀏覽 184 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button