微軟公布新抓漏計畫 針對Bing AI功能祭出漏洞獎勵

記者/竹二

生成式AI發展以來,雖然越來越多缺點被改善,但難免還是有些許漏洞,微軟近日針對旗下AI服務公布了新的抓漏獎勵計畫,這是鎖定AI臭蟲的Microsoft AI Bug Bounty Program,對外徵求能夠從Bing Chat、Bing Image Creator等基於Bing的服務中,找出符合他們所定義的重要或重大等級漏洞的研究發現,獎金從2000美元到15萬美元不等。

微軟近日針對旗下AI服務公布了新的抓漏獎勵計畫。(圖/截取自微軟)

微軟抓漏計畫圍繞在Bing AI體驗

目前微軟現有的抓漏範圍,都圍繞在所有整合AI的Bing體驗,包含用各種瀏覽器使用Bing.com時所體驗的Bing Chat、Bing Chat for Enterprise及Bing Image Creator,或是在Windows版的Microsoft Edge使用整合AI的Bing功能,以及iOS及Android系統上Microsoft Start Application所整合的Bing,或是iOS及Android系統上上Skype Mobile Application整合的Bing。

更多新聞:微軟執行長承認:Bing目前難以抗衡Google

微軟公佈AI抓漏計畫申請資格

據了解,與AI系統相關的安全漏洞包含推論操縱、模型操縱,以及推論資訊揭露等,像是使用者可以注入指令,導致模型偏離原本預期的行為,或是可以干擾有效輸入而讓模型產生錯誤輸出,甚至可以竄改模型架構、訓練程式碼、訓練資料及超參數來毒害模型,還可以自訓練資料集中重建個人資料紀綠等。不過,根據微軟的說法,只有被他們的AI漏洞分類系統(Microsoft Vulnerability Severity Classification for AI Systems)視為重要,或是重大等級的安全漏洞才符合申請資格。

微軟抓漏計畫過去最高發出20萬獎金

根據微軟日前所公布的年度抓漏計畫成果,自去年7月1日起到今年6月底之間,微軟總計祭出了17個抓漏計畫,共有來自全球超過45個國家的345個安全研究人員,一共提交了1180個符合資格的漏洞報告,獲得了1380萬美元的獎金,其中最高的一筆抓漏獎金是20萬美元。

瀏覽 1,456 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button