OpenAI收購資安新創Promptfoo 完善AI紅隊測試自動化

記者鄧天心/綜合報導

OpenAI於美國時間9日宣布,將收購模型評估與紅隊測試(Red Teaming)的開源安全平台Promptfoo。

Promptfoo由前Discord工程主管韋伯斯特(Ian Webster)與前Smile Identity副總裁達安傑羅(Michael D’Angelo)共同創立,其開源框架已被全球超過12.5萬名開發者採用,且服務對象涵蓋逾25%的財星500強(Fortune 500)企業,該平台能自動化模擬駭客攻擊,檢測AI系統是否存在提示詞注入(Prompt Injection)、個人隱私洩漏及有害內容產出等漏洞。

OpenAI。(圖/123RF)
OpenAI收購AI安全新創Promptfoo,強化企業級代理人防護網。(圖/123RF)

OpenAI表示,收購完成後,Promptfoo的技術將原生整合至其企業級代理人管理平台「Frontier」,這將使企業客戶在部署自動化AI助理(AI Coworkers)前,能做到安全測試與合規性稽核,OpenAI將維持Promptfoo的開源承諾,持續支援現有的開源社群與跨模型測試功能,包含對Anthropic及Google模型的支援。

更多科技工作請上科技專區:https://techplus.1111.com.tw/

AI應用進入「代理人時代」,安全性已成為企業導入的關鍵門檻,OpenAI目前尚未透露具體交易金額,Promptfoo於2025年7月剛完成1,840萬美元的A輪融資,當時估值約為8,550萬美元,該團隊預計將加入OpenAI的安全性與應用開發部門,助力下一代模型如GPT-5的安全性測試。

延伸閱讀:

輝達加持!英國AI新創Nscale估值衝上146億美元 完成20億美元融資

資料來源:openai

Loading

在 Google News 上追蹤我們

發佈留言

Back to top button