AI回答出自哪個模型？Anthropic研發FlashProve系統「可望查證」

記者許若茵／編譯

Anthropic正開發一套開源系統，用於驗證特定輸出內容究竟由哪個AI模型產生。根據該公司說明，這套名為FlashProve的系統旨在提供研究人員所稱的「可證明推論」，本質上是一種密碼學證明，透過數學方式確保特定輸出確實來自某個指定模型。這項技術的目的是讓使用者確認，自己收到的回答確實出自預期使用的模型。

FlashProve的概念類似密碼學電子郵件簽章，讓收件者確認訊息確實來自其聲稱的寄件者。即使冒充者就是開發並運行該模型的實驗室，這套系統仍應能抵禦試圖將某個模型偽裝成另一個模型的行為。

研究人員特別指出，這套系統有助於防止AI公司為了降低成本，暗中改用價格較低的模型，或為了誇大效能測試結果，偷偷換成成本較高的模型。

FlashProve也能用來驗證第三方對特定任務執行過程的宣稱是否屬實。研究人員指出，「開發者可能聲稱，他們的軟體函式庫已由頂尖資安AI模型掃描漏洞；企業也可能聲稱，其商業計畫已獲得適當模型的認可。使用者要如何驗證這些說法？」

為了讓系統運作，AI研究實驗室必須為每個發布的模型提供一組「指紋」，之後便能將這組指紋與特定輸出內容比對，並透過密碼學方式進行驗證。

關鍵在於，這些指紋不會揭露模型權重，也就是決定模型行為的內部數值。Anthropic與OpenAI等封閉模型開發商會將這些資訊保密。這代表研究實驗室可以公開模型指紋，而不必交出最有價值的資產，也讓這套系統有機會應用於商業模型。

此外，FlashProve的設計強調輕量化，因此使用者有望直接在本機裝置上完成驗證。

隨著這項研究公布，研究人員也發布了詳細的技術規格，以及系統各個部分的可運作程式碼。相關內容已透過開源授權公開於GitHub。目前，這項系統的研究仍在進行中，Anthropic尚未計畫在自家或其他研究實驗室部署這套技術。

研究人員解釋，「這篇研究文章旨在分享階段性的進展，而不是一份已完成的研究計畫。我們公開這項成果，明確希望其他人能檢視我們的工作、採用相關成果，並進一步改進。」

資料來源：techcrunch