AI攻擊普及化?— 論攻擊模式與原因|專家論點【Howie Su】

作者:Howie Su(產業分析師)

人工智慧危害事件已經越來越頻繁

如果人工智慧模型本質上是安全的,那麼NIST、FDA、ISO、ETSI、ENISA等知名組織以及歐盟人工智慧法案等監管工作不會使「安全可靠的人工智慧」成為值得信賴的人工智慧的基本要素。讓我們把時間轉回 2017 年,一串人工智慧的意外不知道大家還有沒有印象:一個名為Promobot IR77的人形機器人試圖逃跑、NASA 的 CIMON 表現出了意想不到的行為、特斯拉的自動駕駛汽車成為人工智慧操縱的犧牲品。而在最近的事件中,美國國家飲食失調協會 ( NEDA ) 被迫關閉其聊天機器人Tessa,因為該機器人向尋求飲食失調問題建議的使用者提供有害建議;同時,微軟Tay AI模型原先為模仿千禧世代的語音模式,但它卻失控了,做出了諸如「布希就是911攻擊點元兇」的虛假言論。這些事件凸顯了人工智慧對人身安全、經濟、隱私、數位身分甚至國家安全的潛在威脅,人工智慧系統還可能導致智慧汽車忽視停車標誌,誘使醫療系統批准有害流程,誤導無人機執行任務,並繞過內容過濾器在社交平台上傳播謠言等,這些問題已經神不知鬼不覺地滲透我們的生活,而多數人依舊一無所知。

所以,什麼是人工智慧攻擊?

從廣義上講,機器學習模型可以透過三種不同的方式受到攻擊,例如

  • 被愚弄做出錯誤的預測,例如,將停車標誌分類為綠燈
  • 透過數據進行更改,例如使其有偏見、不準確甚至惡意
  • 複製或竊取,例如,透過持續查詢模型來竊取 IP

對抗性人工智慧攻擊有多種形式,每種形式都有獨特的意圖和影響,第一種攻擊是「逃避攻擊」,攻擊者巧妙地操縱人工智慧系統來產生錯誤的結果。想像一下,由於一小段膠帶,自動駕駛汽車中的人工智慧誤讀了停車標誌,如此小的操縱可能會產生重大後果,其他攻擊則針對安全的核心原則:機密性、可用性和完整性;第二種稱為「資料危害」,攻擊者導入有害資料來破壞人工智慧的學習過程,他們甚至可以安裝隱藏的暗門,等待合適的時機造成嚴重破壞;第三種則是「提取攻擊」是一種對 AI/ML 模型進行逆向工程並存取其訓練資料的方法,正如NSA 的所描述的:「如果使用敏感資料來訓練人工智慧,攻擊者可能會查詢使用者的模型以洩露其設計或訓練資料」。

圖、人工智慧用於自駕車攻擊的手法。(資料來源:AIShield 人工智慧安全白皮書)

是什麼讓人工智慧更容易受到攻擊?

由於現代機器學習方法的固有特徵,使得人工智慧系統很容易受到攻擊,該技術主要存在三個主要漏洞,在「善加利」用後容易造成更大危害,這些都是企業在導入技術時需要更加提防的潛在弱點。

  1. 機器學習模型如何學習:人工智慧透過脆弱的統計相關性進行學習,這種統計相關性雖然有效,但很容易被破壞。攻擊者可以利用這種脆弱性來創造和發動攻擊。
  2. 完全依賴數據:機器學習模型完全由數據驅動。如果沒有基礎知識,他們很容易受到數據中毒的影響,惡意數據會擾亂他們的學習。
  3. 演算法不透明:尖端演算法像黑盒子一樣運行,尤其是深度神經網路。由於缺乏透明度,很難區分真正的效能問題和外部攻擊。

瀏覽 668 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button