通过 API 调用旗舰模型的采购方,长期面对一个无法自行核验的问题:服务商承诺的模型,与后台真正跑的模型,是不是同一套。11 月 2 日,Anthropic 的前沿安全团队发布开源研究原型 FlashProve,给出了一条不靠信任的技术路径:服务商事先为权重生成一份不泄露内容的密码学承诺,再为每段回答附上零知识证明,验证方拿到承诺、输入、输出与证明,用普通电脑的 CPU 就能核验这段回答确实出自承诺过的那套权重。这项工作把零知识证明在语言模型上的实测规模从 13B 推到了 400B,吞吐较此前公开系统提升约两个数量级,代码、形式化证明与文档全部以 Apache 2.0 许可开放。
事实:一次验证怎么走
系统的运行分两段。上线前,服务商用单张 H100 加约 290 GB 主机内存,对模型权重做一次性的密码学承诺,耗时约 39 分钟,产出共约 6.5 MB 的承诺文件,这枚指纹在约 1600 万次请求内有效;之后每个请求完成后,服务商批量生成一份约 19 MB 的证明,证明这次推理用的是承诺中的权重,并按规则得到了对应输出。验证端不需要权重,也不需要 GPU,24 线程 CPU 约 17 秒出结果,单线程约 21 秒。
实测对象是 Meta 公开的 Llama 4 Maverick:约 4000 亿总参数的混合专家模型,每个 token 实际激活约 170 亿参数,使用公开的 4-bit 量化权重。证明生成吞吐为每秒约 110 个 token(按 24 个请求一批计算),代价是约为普通 vLLM 推理 70—95 倍的 GPU 时间,高负载场景倍数更高。官方同时给出明确的边界:这是阶段性进展而非完成的研究议程,快速可执行代码与 Lean 形式化证明之间不保证逐行对应,验证只覆盖整数运算与贪心解码,上下文窗口上限 1024 个 token,模型架构不在隐藏范围内,通过证明耗时推测权重信息的侧信道问题被明确列为范围之外。
两个细节值得单独记下。其一,作者名单里有 EPFL、StarkWare 与麻省理工等机构的研究者,其中包括零知识证明方向的资深学者;其二,官方明确写到 Claude 参与了 zkSNARK 的优化,随代码发布的协议规范文档标注为 Claude 撰写,团队用 Lean 证明语言写出完备性、可靠性与零知识性三项安全性质的顶层声明,作为对模型生成代码的审计锚点。发布物共五项:博客、技术报告、协议规范、可执行代码(证明生成器加 C++ 与 Lean 两种验证器)以及 Lean 证明与可视化工具;模型权重不在发布范围内,使用者自行从 Hugging Face 按 Meta 的 Llama 4 许可下载。
背景:zk 证明此前停在 13B
零知识证明用于神经网络推理并不是新想法,难处在规模与速度。按 Anthropic 博客整理的公开对照:2024 年的 zkLLM 在 13B 的 LLaMA-2 上做到约每秒 2.5 个 token;经同行评审的 DeepProve 在 GPT-2 规模上约每秒 2.9 个 token,Gemma 3 规模单机约 1.4;此前给同一模型出过证明的 VerInf,1000 个 token 需要 14.3 小时,证明文件 93.6 GB,验证耗时近一天。FlashProve 把同一类指标做到 400B 模型上约每秒 110 个 token、19 MB 证明、17 秒验证,官方的总结是:对原生推理的开销约两个数量级,明显低于此前的预期。
三个工程取舍撑起了这次跨越。针对混合专家架构,证明器的工作量只与每个 token 实际激活的约 170 亿参数成正比,而与 4000 亿总参数无关,同时用零知识编码把专家路由选择藏进指示向量,避免泄露模型内部路径;证明不在生成过程中实时做,而是推理完成后统一批量生成,把已生成的文本当作 prefill 并行读取,每批只打开一次权重承诺;权重按层分段放在主机内存、流式送入单张 80 GB 显存,超大模型因此不必整体进显存。发布时点也有出处可查:Anthropic 在前沿安全路线图里承诺过在 2026 年 9 月 30 日前拿出可证明推理的原型,这一目标已经由另一个项目达标,即对推理流量签名并在受信服务器上重算;本篇走的是同一目标的另一条路,不引入被信任的第三方,把信任交给密码学难题。该公司 10 月 19 日起已把这项能力在术语上更名为「推理验证」。
影响:给谁用,成本账怎么算
官方列出四类应用场景。安全承诺的核验:要求服务商出示证明,无法出示即说明硬件上跑的不是声称的模型;篡改与替换检测:无论服务器被第三方动过手脚,还是模型自己顶替了另一个模型,要伪造有效证明都做不到;文本溯源:例如证明某个安全模型在至少 100 万 token 的检查里没有发现指定改动中潜藏的问题,把「检查过」变成可核验的声明;在位核验:证明把每次请求绑定到所用模型上,想偷偷换用未获指定的模型会直接验证失败。
这些用途的共同点指向一个判断:以当前成本,FlashProve 的位置是抽检与审计接口,而非生产链路上的逐请求功能。70—95 倍的 GPU 时间开销,加上每请求约 19 MB 的证明文件与验证端约 17 秒的耗时,意味着全量流量的实时证明既不经济也不现实;上下文 1024 个 token 的上限,也把长对话与长文档场景挡在外面。可行的形态是承诺公示加抽查:服务商公开每个模型的权重指纹,审计方按需对采样请求索要证明,一台普通电脑即可完成核验。对 API 采购方和转售平台,这把「你们到底跑的是哪个模型」从信任问题变成可以当场验证的技术问题;对安全评估,它补上的是评估对象与部署模型是否一致的前置条件——测试对象都无法确认时,评测结论的效力要先打个折扣。
也要看到它没有解决的。证明覆盖的是「回答出自这套权重」,回答内容是否正确、服务商是否在别处用同一套权重做计划外的事,都不在证明范围内;浮点实现与带随机性的采样解码会偏离被证明的计算,当前验证只对整数模型与贪心解码成立;模型架构本身公开,对把架构视为商业机密的厂商,这套方案不能直接照搬。Anthropic 也明说这是供社区复现与改进的阶段成果,目前没有部署与商用的时间表。
观察点
往后看三件事。如果半年内出现独立团队在非 Llama 架构或更长上下文上的复现结果,且吞吐没有塌回个位数 token,说明激活感知与批量证明的方案可迁移,可证明推理离生产可用就不远了;如果路由平台或 API 聚合商开始公示权重承诺指纹并提供抽检接口,说明承诺公示加抽查的形态被行业接受,反之若只停留在论文引用,成本就仍是挡路的那堵墙。第三个看点在厂商侧:Anthropic 已同时握着受信重算与零知识证明两条路线,而前沿实验室的安全承诺普遍缺少推理验证条款,接下来半年其他厂商是否跟进同类开源原型,会说明这件事是姿态还是工程标配。
来源与说明
[1] Progress on provable inference|Anthropic|2026-11-02 [2] anthropics/FlashProve(GitHub 仓库)|Anthropic|2026-11-02 [3] Anthropic开源FlashProve,给大模型办了一张“防伪身份证”|机器之心·腾讯新闻|2026-11-04 [4] 17秒验明AI“真身”!Anthropic开源可证明推理系统,能抓模型调包|凤凰网科技|2026-11-04 [5] Anthropic 开源 FlashProve:用 zkSNARK 做可证明推理|AGI Pulse|2026-11-04 [6] Anthropic 的零知识证明突围:让每句 AI 回答都可追溯|BT 财经|2026-11-04 [7] FlashProve——Anthropic 开源的可验证推理系统|AI 工具集|2026-11-04
检索截止:2026-11-04 20:10(Asia/Shanghai)。本文性能数字均为 Anthropic 官方博客与技术报告的自报结果,无第三方复现;FlashProve 为研究原型,官方未给出部署或商用时间表。