Anthropic 將零知識證明技術運用至 AI 推理，防止模型被“掉包”

ChainCatcher 消息，Anthropic 開源了 FlashProve，把加密貨幣領域常用的 zkSNARK（零知識證明）技術搬到了 AI 模型推理中。 這項技術原本可以在不公開交易細節的情況下，證明區塊鏈交易有效。Anthropic 想用它解決另一個問題：用戶花高價購買某款 AI 模型的 API，怎么知道服務商有沒有偷偷換成便宜模型？ FlashProve 讓服務商先為模型權重生成加密指紋，再為推理結果提供數學證明。用戶無需獲取模型權重，也不用重新運行模型，就能檢查指定輸出是否來自預先承諾的那組權重。Claude 也參與了這套系統的研發和優化。 Anthropic 已經在 Meta 的 4000 億參數模型 Llama 4 Maverick 上完成實驗。每處理 1024 個 token 的上下文，生成的證明約有 19 MB，普通 CPU 驗證需要約 17 秒。 不過，目前每份證明只能核驗一個輸出 token，還無法驗證整段回答。生成證明所需的 GPU 計算時間，也達到普通推理的約 70–95 倍。以后能不能靠它揪出偷偷換模型的 API 服務商，還得看證明成本什么時候能降下來。

• 喜歡使用社交軟體關注？關注我們的 Twitter，或者加入 Telegram！
• 想關注最新資訊？ 下載CoinCarp App吧
• 有新聞需要爆料，官方公告需要發布? 來給我們發郵件吧！[email protected]