Hugging Face恐有API漏洞 攻擊者可存取微軟、Meta模型

記者/竹二

近日有資安業者Lasso Security的研究人員發現,AI模型資源平台Hugging Face存在著API漏洞,會洩露包含微軟Meta、Google等公司的API驗證資訊,讓有心人得以控制Meta Llama 2等熱門模型的程式碼儲存庫,嚴重的話可能讓攻擊者污染訓練資料集或竊取、改造成惡意的AI模型。

AI模型資源平台Hugging Face存在著API漏洞,會洩露包含微軟、Meta、Google等公司的API驗證資訊。(圖/截取自Hugging Face)

GitHub、Hugging Face越來越受歡迎

隨著大型語言模型(LLM)普及,GitHub和Hugging Face等平台也成為許多開發人員愛用的資源平台。而Hugging Face是一項重要功能是開源碼函式庫Transformers,代管了50萬個AI模型及25萬項資料集,像是Meta的Llama、Bloom、Pythia等訓練模型。

更多新聞:Meta發表新翻譯AI模型套件 可更精準即時、高效翻譯

據了解,Hugging Face所提供的API,可供外部開發人員及企業將Python函式庫整合到模型,或是讀取、新增、修改或刪除儲存庫或檔案。而GitHub的API也有類似的功能,若是取得兩方的API驗證令牌,可能會導致企業資料外洩、惡意模型散布等不良後果。

近日資安廠商Lasso Security在一項研究中,發現GitHub與Hugging Face平台都可能讓不肖人士從其儲存庫取得各模型供應商的API驗證令牌,得以存取模型或是其他程式碼。該研究小組一共從兩平台上找到1681個有效的令牌,取得了723家企業組織的帳號,包含Meta、微軟、Google等科技大廠,其中655個令牌具有寫入權限,77個還能寫入多個組織系統。

研究人員提出警告指出,只要控制這些程式碼儲存庫,就可以發動多種攻擊,例如最基礎的竊取模型和資料集,或是污染資料集,甚至最嚴重的是供應鏈攻擊,改造現有模型使成為惡意模型,危害大量依賴這些基礎模型的應用程式,因此呼籲所有開發人員避免將令牌資訊寫死在API,以免洩露資訊。

瀏覽 524 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button