白宮召集AI巨頭 商討新模型自願資安測試框架

記者許若茵／編譯

白宮一名官員向CNBC證實，白宮將於週二邀集人工智慧企業開會，討論一套已完成的全新框架，用於評估業界最先進AI模型的網路安全能力。匿名官員表示，會議將聚焦於美國總統川普今年6月下令建立的自願性評估框架。

根據知情人士透露，Anthropic代表預計將出席會議。另據《The Information》報導，OpenAI及Google也預計參與，白宮官員則表示，政府一直與更廣泛的產業夥伴合作推動這項計畫。

川普於6月2日簽署行政命令，要求聯邦政府建立一套程序，讓AI開發商判斷開發中的模型是否屬於「受涵蓋前沿模型」，根據這項自願性計畫，參與的AI開發商可在模型提供給其他可信任合作夥伴之前，提前最長30天向政府開放存取權限。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

美國政府表示，提前取得模型存取權，有助於政府與科技公司共同評估高階AI模型是否可能被用於發現軟體漏洞，或發動複雜的網路攻擊，行政命令也要求美國財政部、國家安全局及網路安全暨基礎設施安全局建立一套機密基準測試程序，用於評估AI模型的進階網路攻擊能力，用於判定哪些模型需接受審查的基準與門檻預計都將列為機密。白宮目前尚未公開完整框架，也未說明政府將採用哪些指標測試參與計畫的AI模型。

行政命令也明確指出，這項計畫不得作為建立聯邦政府強制授權、許可或事前審查制度的依據，也不得要求AI模型開發或發布前必須取得政府批准。

這套框架推出之際，各大AI開發商正持續測試旗下系統是否具備自主尋找及利用網路安全漏洞的能力。

資料來源：CNBC