Anthropic 开源 FlashProve 防 AI 模型被掉包

据 Woofun AI 消息，Anthropic 开源了名为 的技术，将加密货币领域的 zkSNARK 零知识证明机制应用于 AI 模型推理场景。该技术旨在解决用户付费调用 API 时，服务商可能擅自替换为低成本模型的风险。系统通过预先生成模型权重的加密指纹，并为推理结果提供数学证明，使用户在不获取权重或重跑模型的前提下，即可验证指定输出是否源自承诺的权重组。 参与了该系统的研发与优化工作。

实验已在 Meta 的 4000 亿参数模型 Llama 3 Maverick 上完成。数据显示，每处理 1024 个 token 上下文，生成的证明大小约为 19 MB，普通 CPU 验证耗时约 17 秒。当前技术限制在于每份证明仅能核验单个输出 token，尚无法验证整段回答，且生成证明所需的 GPU 计算时间约为普通推理的 70 至 95 倍。未来该技术能否有效识别违规服务商，取决于证明成本的降低情况。