付費用 AI 的用戶，現時無法查證收到的回答是否真的出自自己選的模型：中間的轉介服務可以為了省錢暗中換上較便宜的模型，黑客亦可以竄改傳回來的文字，單看回答質素分辨不到。
Anthropic 在 11 月 2 日發表研究，推出開源原型系統 FlashProve，用密碼學證明「某段回答確實由某個模型產生」。Anthropic 稱，這套系統的主要改進由 Claude 做出，速度遠快於以往的開源方案。
怎樣證明
FlashProve 用的是一種叫 zkSNARK 的零知識證明。模型供應商先公開一個「承諾」，即模型權重的短指紋，鎖定一組權重而不公開權重本身。之後每次回答，供應商附上一份證明檔，任何人拿着承諾、提問和回答，就可以檢查這組權重是否真的會產生這段文字。證明不會透露權重、中間運算，或每層用了哪些專家子網絡；模型架構則沒有隱藏。
測試數字
Anthropic 用 Meta 的 Llama 4 Maverick 測試，這是一個 4,000 億參數的混合專家模型，用公開的 4 位元權重。結果：
- 一張 H100 顯示卡每秒可為約 110 個 token 產生證明
- 每個 1,024 token 的請求，證明檔約 19 MB
- 檢查一份證明只需一部 24 核心電腦的 CPU 用幾秒，不用顯示卡
- 代價是運算時間約為一般執行同一模型的 70 至 95 倍
用途
Anthropic 舉了幾個用途：獨立評估機構可以確認自己測試的模型，就是供應商賣給客戶的同一個；經轉介服務使用模型的客戶，可以確認收到的是自己付錢買的模型；監管機構若要求供應商把硬件用於推理而不是訓練新模型，可以要求它交出證明。
限制
Anthropic 稱 FlashProve 只是研究原型。它證明的是整數版本、逐字選最高機會答案的模型，實際服務用浮點運算或隨機抽樣，結果可能對不上；現時只支援 1,024 token 內的對話，遠短於聊天時累積的長度；只適用混合專家架構；量度產生證明所需時間等「旁路攻擊」，亦可能洩露權重資料。
程式碼、規格文件和以 Lean 寫的形式化證明，已在 GitHub 以 Apache 2.0 授權公開，項目註明「不會維護」。
暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。