Anthropic首度曝光AI防護內幕 背後機制比你想的更嚴

記者鄧天心／綜合報導

Anthropic近日公開詳細AI安全策略，強調確保旗下熱門AI模型Claude的安全性有多層防護，Anthropic的Safeguards團隊有政策專家、數據科學家、工程師與威脅分析人員，從不同專業視角設計防護措施，以「多層防禦」概念設計，從制定使用規範開始，到部署自動化監控與安全審查，層層把關。

Anthropic明定AI使用政策，涵蓋如選舉公正、兒童保護、金融與醫療等敏感領域，同時團隊運用「統一損害框架」（Unified Harm Framework），評估AI系統可能造成的各類潛在風險，此外，Anthropic還委託外部專家進行政策漏洞測試，如2024美國大選期間，曾透過專業機構審查Claude有無傳播過時投票資訊，並即時加入非黨派資訊來源參考指引。

延伸閱讀：Grok輸給ChatGPT？馬斯克怒告蘋果偏袒OpenAI引爆新戰火

在模型訓練階段，Safeguards團隊與開發者密切合作，決定Claude的行為邊界，並結合危機處理等領域專家知識，讓AI能更妥善回應如心理健康、自殺防治等敏感議題。

每次模型更新前，Anthropic均進行三類嚴格測試︰

• 安全評估：確保Claude在複雜對話下能遵守規範。
• 風險評估：對涉及網購詐騙、生物風險等高危領域，聯合政府與產業夥伴測試。
• 偏見評估：審視模型在性別、種族、政治立場上的公平性。

在產品部署後，Anthropic運用自動化分類器模型與人力監控系統，監察Claude實時回應，攔截有害內容，對重複違規用戶將採取警告、封禁等措施；同時團隊利用分析工具發現大規模異常行為與濫用趨勢，隨時通報風險並調整防線，此外，Anthropic積極與科技產業、政策制定者及社會大眾合作，共同強化AI防護網。

Anthropic坦言，AI安全不是單一團隊可獨立完成的任務，需仰賴跨界合作，持續創新與透明監督，才能不斷提升AI系統信任度與社會接受度。

資料來源：AI News、Tech Jacks Solutions