不自己砸錢訓練？Anthropic指控中國AI蒸餾Claude 暗網帳號成新武器
記者彭夢竺／編譯
AI模型競爭越來越激烈，Anthropic如今將戰場一路延伸到「暗網」。Anthropic威脅情報主管Jacob Klein表示，部分海外AI業者正透過大量假帳號、遭竊信用卡及被入侵的AI帳戶，繞過Claude使用限制，再利用模型蒸餾取得Claude輸出，訓練自家競爭模型，甚至以更低價格推出類似產品。
Klein接受外媒《CNBC》訪問時表示，Anthropic歡迎市場競爭，模型蒸餾本身也並非一定違法，但他們目前觀察到的部分行為已涉及詐欺、規避管制及智慧財產權問題。他形容，目前甚至已形成一整套非法生態系，想盡辦法取得Claude及其他AI模型的使用權限。
什麼是「模型蒸餾」？用強大AI訓練另一個AI
模型蒸餾近來成為AI產業高度爭議的議題。簡單來說，開發者可以利用另一款AI模型產生的大量輸出，作為資料來訓練自己的「學生模型」，藉此學習原模型的部分能力。
依照執行方式不同，模型蒸餾可以是合法技術，但也可能讓競爭者以原開發商投入成本的一小部分，快速打造具有類似能力的產品。
美國科技產業目前也因此出現不同立場。一派認為政府不應過度管制，應讓能力最好、成本最低的AI模型自由競爭；另一派則主張，若企業透過未經授權方式大量取得競爭對手模型輸出，本質上就是竊取智慧財產。
Anthropic點名Moonshot：Kimi K3非法利用Claude訓練
Anthropic這次更直接將矛頭指向中國AI公司Moonshot AI。Moonshot今年7月推出Kimi K3，以較低價格提供前沿AI模型能力，並因企業可以更容易依需求調整，在矽谷獲得廣泛採用。
不過，Klein指控，Kimi K3曾非法利用最新版Claude進行訓練。
今年稍早，Anthropic也曾指控Moonshot、DeepSeek及MiniMax蒸餾旗下前沿AI模型，並指控阿里巴巴（Alibaba）曾發動大規模「蒸餾攻擊」，非法取得Claude的模型能力。
不只Anthropic，OpenAI及Google也都曾發布與模型蒸餾相關的報告，並表示正在處理類似問題。
阿里巴巴、DeepSeek、Moonshot及MiniMax則未回應《CNBC》的置評要求。
上暗網買遭竊帳號 一次開數萬甚至數十萬個
Anthropic指出，問題不只是大量呼叫Claude，而是部分使用者會透過非法方式繞過平台限制。資安專家表示，除了中國之外，伊朗、俄羅斯及北韓也存在類似威脅。
由於制裁等因素，Claude、Google Gemini及OpenAI ChatGPT在部分地區受到服務限制，因此部分使用者會透過非法或詐欺方式取得模型使用權。其中一種方式就是利用暗網。
Klein指出，暗網市場可以取得遭竊的信用卡資訊，以及已被入侵的AI帳戶。部分業者甚至可能一次建立數萬、甚至數十萬個假帳號，藉此大規模存取AI模型。
取得Claude使用權後，這些帳號可以不斷向模型提出問題、蒐集回答，再把大量輸出拿去訓練自己的AI模型。
一般人問幾十題 他們可能一次問數千題
如何判斷有人正在進行大規模模型蒸餾？其中一項明顯特徵就是異常的使用規模。一般使用者可能只會向AI提出數十個問題，但進行模型蒸餾的帳戶可能一次提出數千個問題，甚至同時建立數千個帳號重複執行。
這也讓AI公司陷入類似「打地鼠」的攻防戰：封鎖一批帳號後，對方又能透過新的假帳號重新取得模型。Klein坦言，要完全阻止這類行為非常困難，但只要能降低速度、提高取得模型能力的成本，仍然具有價值。
Anthropic：問題不只商業競爭 還牽涉國安
Anthropic認為，大規模非法蒸餾的風險並不只是競爭對手用更低成本打造AI模型。如果取得先進模型能力的業者沒有同樣的安全限制，相關技術可能被用於監控，甚至生物武器計畫等高風險用途。
Klein還提到，Anthropic曾發現一個來自中國的實體，利用Anthropic技術大規模進行間諜活動。
他認為，如果不受信任的惡意行為者透過模型蒸餾，取得原本無法自行開發出的更強AI能力，就可能進一步形成國家安全問題。
AI平台越想降低使用門檻 越容易被混進來
資安公司Armadin技術長、前Google工程師Travis Lanham指出，大型AI公司每天需要處理數十億筆請求，即使其中存在數百萬筆異常流量，相較整體規模仍可能相當小，因此惡意使用者有機會混在大量正常流量中，不容易被立即發現。
另一方面，AI公司本身也面臨競爭壓力，希望讓平台盡可能容易使用。如果安全限制設得太高，可能影響正常客戶體驗；但限制太低，又可能讓競爭者更容易大量取得模型輸出。
Anthropic強調「不反對蒸餾」 關鍵在怎麼做
Klein強調，Anthropic並不反對競爭，也不是所有模型蒸餾都存在問題。合法的模型蒸餾通常意味著取得必要授權，並遵守智慧財產權及出口管制等相關規定。
真正讓Anthropic擔憂的，是有人透過數百萬個假帳號、遭竊信用卡及遭竊基礎設施，非法取得Claude能力，再利用這些資料打造缺乏相同安全防護的AI模型。
隨著前沿AI模型開發成本越來越高，「如何防止競爭對手用自己的模型訓練另一個模型」也正在成為新的AI攻防戰。對Anthropic而言，接下來不只要比誰的模型更強，還必須設法守住Claude本身已經具備的能力。
資料來源：CNBC
