Anthropic 稱蒸餾者取得的數據減少九成以上
Anthropic 周二(13 日)發表文章,交代過去數月對付「蒸餾攻擊」的進展。蒸餾是指透過大量查詢另一間公司的模型,收集其回答及推理過程,用來訓練自家模型。Anthropic 指,初步證據顯示新措施令蒸餾者取得的數據減少約 90% 至 99%。
公司又指,引入新的分類器後,蒸餾者抽取到的推理 token 減少 10 至 100 倍;相關帳戶往往在攻擊開始後兩小時內被封,至今已封禁數以萬計與蒸餾有關的帳戶。
項目 | 內容 |
|---|---|
蒸餾者取得的數據 | 減少約 90% 至 99% |
抽取到的推理 token | 減少 10 至 100 倍 |
封禁帳戶 | 數以萬計,往往在兩小時內 |
分類器誤判率 | 低於 0.1% |
推理過程為何值錢
Anthropic 以 SWE-bench Verified 編程測試說明推理紀錄的價值:以完整推理紀錄訓練的預訓練模型得分 80.4%,改用摘要版本訓練則只有 71.8%。
因此公司的第一道防線,是讓 Claude 先將推理過程摘要,才向用戶展示。第二道是限制推理內容的去向:2026 年 8 月 31 日或之後開設的 API 帳戶不能再修改先前的推理內容,而 Claude Sonnet 5.5 的推理紀錄只有發出請求的機構才能讀取。
第三道是一個經內部及外部紅隊測試的兩階段分類器,專門攔截抽取推理的手法,例如要求 Claude 把先前的推理翻譯成另一種語言,或以標籤形式寫出來。屢次嘗試的帳戶會被收緊用量限制,持續嘗試則會被封禁。
點名智譜及月之暗面
文章點名中國公司智譜。Anthropic 指,智譜在開發 GLM-5.3 期間蒸餾美國頂尖模型的網絡攻擊能力,並曾嘗試蒸餾 Claude Fable 5,但發現 Anthropic 的網絡安全防護削弱了其攻擊效果後,轉向一款較舊的 Claude 模型及另一間公司的模型。美國人工智能標準與創新中心(CAISI)評估,GLM-5.3 是至今網絡攻擊能力最強的開源權重模型。
文章亦指,用戶向月之暗面 Kimi 模型發出的請求,曾被暗中轉發至 Claude。其中一個請求來自 Anthropic 認為與中國人民解放軍有關的用戶,要求分析某名人士的閉路電視監控畫面。
此外,有代理網絡控制數十萬個虛假帳戶,其中一個網絡曾同時管理逾兩萬個帳戶。
寧願推走收入
Anthropic 表示,公司已推走「可觀的收入」,以及來自蒸餾者、價值數以萬億計 token 的付費流量,但未有公布金額。公司形容蒸餾是國家安全問題,並呼籲所有前沿模型開發商參與防範,平台及開發者亦應偵測濫用、移除虛假帳戶。




No comments yet
提交留言即表示你已閱讀我們的私隱政策。