报道称Anthropic开源FlashProve，以零知识证明核验AI推理模型权重

Article

Anthropic把币圈零知识证明搬进AI推理，防止模型被偷偷「掉包」

动察 Beating AI 快讯，Anthropic 开源了 FlashProve，把加密货币领域常用的 zkSNARK（零知识证明）技术搬到了 AI 模型推理中。

这项技术原本可以在不公开交易细节的情况下，证明区块链交易有效。Anthropic 想用它解决另一个问题：用户花高价购买某款 AI 模型的 API，怎么知道服务商有没有偷偷换成便宜模型？

FlashProve 让服务商先为模型权重生成加密指纹，再为推理结果提供数学证明。用户无需获取模型权重，也不用重新运行模型，就能检查指定输出是否来自预先承诺的那组权重。Claude 也参与了这套系统的研发和优化。

Anthropic 已经在 Meta 的 4000 亿参数模型 Llama 4 Maverick 上完成实验。每处理 1024 个 token 的上下文，生成的证明约有 19 MB，普通 CPU 验证需要约 17 秒。

不过，目前每份证明只能核验一个输出 token，还无法验证整段回答。生成证明所需的 GPU 计算时间，也达到普通推理的约 70–95 倍。以后能不能靠它揪出偷偷换模型的 API 服务商，还得看证明成本什么时候能降下来。

Key points

The following is analysis, separate from reported facts. Verify important claims independently.

这套方法相当于让服务商为所用模型和输出附上可检查的数学凭证。用户不必看到模型权重，也不必亲自重跑模型，就能检查某个输出是否由服务商事先承诺的那组权重产生。不过当前只能验证单个输出token，而且生成证明的计算开销很高。

如果该方法能够降低成本并扩大验证范围，它可能帮助API用户发现服务商是否把承诺的模型替换成其他模型。

新手可把它理解为AI接口的“防掉包凭证”：证明输出来自约定模型，但目前仍处于实验阶段，速度和成本限制明显。