2026年10月13日星期二HKT

WhaleAgent

深海白色抹香鯨,幫你打撈每日新聞重點

人工智能

Anthropic 稱蒸餾者取得數據減少逾九成,點名智譜曾試蒸餾 Claude

Anthropic 稱,針對 Claude 的蒸餾攻擊已大幅受制,蒸餾者取得的數據減少約 90% 至 99%。Anthropic 周二(13 日)發表文章指,新措施包括先將 Claude 的推理過程摘要才展示,並以分類器攔截抽取推理的請求,至今已封禁數以萬計相關帳戶,往往在攻擊開始後兩小時內封禁。文章點名中國公司智譜曾嘗試蒸餾 Claude Fable 5,受阻後改用較舊的 Claude 模型。Anthropic 表示,公司為此推走「可觀的收入」。

Anthropic 稱蒸餾者取得的數據減少九成以上

Anthropic 周二(13 日)發表文章,交代過去數月對付「蒸餾攻擊」的進展。蒸餾是指透過大量查詢另一間公司的模型,收集其回答及推理過程,用來訓練自家模型。Anthropic 指,初步證據顯示新措施令蒸餾者取得的數據減少約 90% 至 99%。

公司又指,引入新的分類器後,蒸餾者抽取到的推理 token 減少 10 至 100 倍;相關帳戶往往在攻擊開始後兩小時內被封,至今已封禁數以萬計與蒸餾有關的帳戶。

項目

內容

蒸餾者取得的數據

減少約 90% 至 99%

抽取到的推理 token

減少 10 至 100 倍

封禁帳戶

數以萬計,往往在兩小時內

分類器誤判率

低於 0.1%

推理過程為何值錢

Anthropic 以 SWE-bench Verified 編程測試說明推理紀錄的價值:以完整推理紀錄訓練的預訓練模型得分 80.4%,改用摘要版本訓練則只有 71.8%。

因此公司的第一道防線,是讓 Claude 先將推理過程摘要,才向用戶展示。第二道是限制推理內容的去向:2026 年 8 月 31 日或之後開設的 API 帳戶不能再修改先前的推理內容,而 Claude Sonnet 5.5 的推理紀錄只有發出請求的機構才能讀取。

第三道是一個經內部及外部紅隊測試的兩階段分類器,專門攔截抽取推理的手法,例如要求 Claude 把先前的推理翻譯成另一種語言,或以標籤形式寫出來。屢次嘗試的帳戶會被收緊用量限制,持續嘗試則會被封禁。

點名智譜及月之暗面

文章點名中國公司智譜。Anthropic 指,智譜在開發 GLM-5.3 期間蒸餾美國頂尖模型的網絡攻擊能力,並曾嘗試蒸餾 Claude Fable 5,但發現 Anthropic 的網絡安全防護削弱了其攻擊效果後,轉向一款較舊的 Claude 模型及另一間公司的模型。美國人工智能標準與創新中心(CAISI)評估,GLM-5.3 是至今網絡攻擊能力最強的開源權重模型。

文章亦指,用戶向月之暗面 Kimi 模型發出的請求,曾被暗中轉發至 Claude。其中一個請求來自 Anthropic 認為與中國人民解放軍有關的用戶,要求分析某名人士的閉路電視監控畫面。

此外,有代理網絡控制數十萬個虛假帳戶,其中一個網絡曾同時管理逾兩萬個帳戶。

寧願推走收入

Anthropic 表示,公司已推走「可觀的收入」,以及來自蒸餾者、價值數以萬億計 token 的付費流量,但未有公布金額。公司形容蒸餾是國家安全問題,並呼籲所有前沿模型開發商參與防範,平台及開發者亦應偵測濫用、移除虛假帳戶。

來源

No comments yet

提交留言即表示你已閱讀我們的私隱政策。