Anthropic发文宣布”大型语言模型的可验证推理取得新进展”，并开源了名为FlashProve的系统。该系统基于零知识密码学证明技术，让模型提供商能够在不公开模型权重的情况下，证明某个回答确实由指定模型生成。
Anthropic将这项技术称为”可证明推理”（Provable Inference）。官方博客首先提出四类AI服务面临的信任问题：用户向某个AI服务发起请求，却无法确认返回的回答究竟来自哪个模型。例如，第三方服务商可能为降低成本，将用户指定的高性能模型替换成更便宜的模型；推理服务器也可能遭到攻击，导致模型权重或输出Token被篡改。对于进行安全评估的研究人员而言，如果无法确认测试对象与实际部署的模型一致，评估结果也就失去了可靠性。
技术思路上，模型服务商先通过密码学方式为一组确定的模型权重生成承诺（Commitment），相当于给模型版本建立一个加密指纹。之后用户每次发起请求，服务商都可附上一份零知识证明（zkSNARK），证明这次回答确实由此前承诺的模型根据对应输入生成。用户无需获得模型权重、也无需自己重新运行模型，就能通过模型承诺、输入、回答和证明文件独立验证模型身份。需要注意的是，它证明的是回答的来源，而非回答内容是否正确。
为验证方案可行性，Anthropic选择Meta的Llama 4 Maverick进行测试。这是一个拥有4000亿参数的MoE模型，每个Token实际激活约170亿参数。在单张NVIDIA H100 GPU上，FlashProve的证明生成吞吐量达到约110 Token/s，每份证明文件约18.78 MB；验证端不需要GPU，使用24线程CPU验证一份证明约需17秒。当前测试采用1024 Token的请求窗口，每份证明实际检查其中一个输出Token。效率提升与针对MoE架构的优化有关：证明计算主要围绕实际激活的专家展开，而非每次处理全部参数；同时采用批量事后证明，在推理完成后再统一生成证明，降低重复计算开销。
