Anthropic 开源 FlashProve,验证 AI 回复来自哪个模型
Anthropic 开源研究原型
FlashProve,让用户验证 AI 回复是否来自指定模型,同时不公开模型权重。提供方先为模型权重发布一个不公开权重的“指纹”,再生成证明文件,让用户检查回复是否符合这组权重的计算结果。
Anthropic 开源可验证推理系统 FlashProve,目标是让用户确认 AI 回复是否由指定模型生成,同时不公开模型权重。系统分两步运行:提供方先为一组模型权重发布一个简短的加密标识,称为“承诺”,用来固定这组权重,但不公开权重本身。回复生成后,提供方再制作证明文件,证明被检查的输出符合这组权重对用户输入的计算结果。用户拿到标识、输入、回复和证明文件后,可以在自己的 CPU 上检查,无需拿到权重或重新运行整个模型。证明只说明计算与承诺的模型一致,不能证明回复内容真实。Anthropic 表示,这可用于检查模型是否被替换、回复是否遭篡改,也能帮助评估人员确认测试模型与实际服务的模型一致。
在 Llama 4 Maverick 的 4 位量化版本上,研究团队使用单张 NVIDIA H100,按 24 个请求一批生成证明,吞吐量约为每秒 110 个 token;每个 1024 token 请求对应的证明约 19 MB,使用 24 核 CPU 验证约需 17 秒。不过,生成证明消耗的 GPU 时间约为普通推理的 70 至 95 倍。当前原型最多支持 1024 个 token 的上下文,证明针对整数模型的贪心解码结果;快速验证代码尚无形式化保证,也没有在 Anthropic 或其他实验室部署的计划。

相关链接:














