Anthropic用零知识证明防模型掉包

Anthropic用零知识证明防模型掉包
核心摘要

Anthropic 近日宣布开源 FlashProve,这是一套将加密货币领域常用的 zkSNARK 零知识证明技术引入 AI 模型推理验证的方案。该技术原本用于在区块链上证明交易有效而不公开细节,Anthropic 则试图用它解决一个困扰 API 用户的问题:当用户花钱调用某款大模型时,如何确认服务商没有在背后偷偷换成更便宜的替代模型。

正文解读

FlashProve 的核心思路是让服务商先为模型权重生成加密指纹,再为每一次推理结果提供对应的数学证明。这样一来,用户无需下载模型权重,也不必重新运行整个模型,就能验证某个特定输出是否确实来自事先承诺的那组权重。据 Anthropic 透露,Claude 也参与了这套系统的研发与优化,以确保方案在实际模型上的可用性。

Anthropic 已经在 Meta 开源的 4000 亿参数模型 Llama 4 Maverick 上完成了初步实验。测试结果显示,每处理 1024 个 token 的上下文,生成的证明大小约为 19 MB,普通 CPU 验证需要大约 17 秒。这个效率在实验室环境下尚可接受,但距离大规模实际应用仍有明显差距。

原创文章,作者:admin,如若转载,请注明出处:https://www.23btc.com/anthropic%e7%94%a8%e9%9b%b6%e7%9f%a5%e8%af%86%e8%af%81%e6%98%8e%e9%98%b2%e6%a8%a1%e5%9e%8b%e6%8e%89%e5%8c%85.htm

赞 (0)
上一篇 15分钟前
下一篇 5分钟前

相关推荐