Anthropic 开源 FlashProve:证明回答出自哪个模型

Anthropic 前沿红队 11 月 2 日(美国时间)发布研究文章和开源项目 FlashProve,目标是“可证明推理”:用户拿到一段回复,可以用密码学证明核对它确实由某个指定模型生成,不用拿到权重,也不用自己跑模型。代码、Lean 证明和文档用 Apache 2.0 发布。
文章列了几个用途:第三方路由服务偷换便宜模型、推理服务器被入侵后篡改输出、监管方核对只上线了获批模型,以及证明“某段代码确实被某个前沿模型扫过”。出证明的 GPU 开销约是 vLLM 直接推理的 70—95 倍,Anthropic 说之前的开源系统要慢几个数量级。
Anthropic 也写明,这套系统大量由 Claude 参与优化,所以用 Lean 形式化了完备性、可靠性和零知识三条性质,方便审计。
注意:这是研究原型,仓库标注不维护、不接受贡献;只覆盖 1,024 token 上下文、整数化模型和贪心解码,采样输出不在证明范围内;快速 C++ 校验器与 Lean 版本的一致性没有形式化保证。据 TechCrunch 报道,Anthropic 和其他实验室都还没有部署计划。