文章详情

Anthropic 做出 AI 回复防伪证明,以后买中转站的 Claude 能一眼验出真假吗?

一句话看懂

现在还验不了,近期也指望不上:FlashProve 只是一个在开源模型上跑通的研究原型,Anthropic 没打算上线,而且中转站只要不把证明文件转给你,你照样没法查。

我第一次自己掏钱买「Claude」中转 Key 的时候,对着那个接口高高兴兴写了两个礼拜代码,后来才发现对面回答我的根本不是 Claude。这种花着真金白银却连对面坐着谁都摸不准的憋屈,11 月 3 日被 Anthropic 写进了研究文章里——文章开头第一段就点名说,今天的用户没法核实回复是不是真出自开发者声称的那个模型,而不是被路由服务为了省钱偷偷换上的另一个模型;连官方自己都承认,哪怕回答质量很高,光靠肉眼看输出也判断不准。为了治这个毛病,Anthropic 拿出了一套叫 FlashProve 的「可证明推理」系统(已按 Apache 2.0 协议在 GitHub 开源),甚至让自家的 Claude 帮忙改进密码学做法、用形式化证明语言 Lean 写了安全性陈述。只是对咱们这些买中转 Key 的人来说,这根救命稻草眼下还抓不住。

图片来源:截图自 Anthropic 研究文章,11 月 4 日

开一张防伪证明,要花掉跑模型 70 到 95 倍的显卡时间

要弄明白为什么抓不住,得先看看这套防伪是怎么运转的。TechCrunch 给它打了个比方:就像带加密签名的电子邮件,收件人能确认信确实是发件人本人写的。放到模型上,就是提供方先公开一份模型的「指纹」(对模型权重的承诺,不暴露权重本身,闭源模型也能用),以后每给你回一句话,就顺手附一份证明文件;你拿自己的普通电脑核对一下指纹、提问和回复,几秒钟就能验出这段话是不是真由那套权重算出来的。

听着挺美,但我看了一眼文章里的开销,心算盘就开始响了。Anthropic 在开源模型 Llama 4 Maverick(4000 亿参数、4 位量化)上测出来的成绩是:一张 H100 显卡每秒能给大约 110 个 Token 生成证明,一次 1024 个 Token 的请求,光证明文件就有大约 19 MB;最要命的是,生成这份证明花掉的显卡时间,是直接用开源推理库 vLLM 跑模型的约 70 到 95 倍。回答你一个问题花一分钱算力,开那张防伪证明就得花掉七八毛,这笔钱最后算在谁头上,文章里没写,我也替他们算不出来。为了省点事,他们的做法是先把回复发给你,事后再挑其中一部分 Token 补做证明,代价是你得等一阵子才能拿到那份保证。

平时带随机性的聊天,它还证不了

就算有人愿意掏这 70 到 95 倍的算力钱,这套系统放到日常用起来还会卡壳。Anthropic 在文章里老老实实列了局限:这只是一个阶段性的研究原型,而且证明针对的是整数化后的模型、还得是每一步都死板地挑概率最高那个字的「贪心」生成方式。

我们平时找 Claude 写文章、改代码,大多带着点随机性,底层也是浮点运算;遇上这种正常聊天,生成的回复可能在某个位置跟整数化贪心模型对不上,也就不再完全吻合被证明的那次计算。TechCrunch 也写明,无论是 Anthropic 自己还是其他实验室,目前都没有部署 FlashProve 的计划(Anthropic 原本定下在 9 月 30 日前做出可证明推理原型的目标,其实是靠另一个给自家流量签名、在可信服务器上重算推理的项目交的差)。

图片来源:截图自 Anthropic 研究文章,11 月 4 日

中转站只要把证明扣下,防伪就成了摆设

退一万步讲,就算哪天技术成熟、算力免费,Anthropic 给官方发出的每一条回复都严丝合缝地钉上了防伪证明,买中转站的人就能高枕无忧了吗?

你想想中转站是怎么工作的。Anthropic 在文章里写得很明白:「通过第三方路由服务使用模型的客户,希望确认 Token 出自他们付钱买的那个模型。」但这条防伪链条要走通,得官方生成证明、中转站原封不动地把 19 MB 的证明转发给你、你再用工具去验,三环缺一不可。一个本来就打算拿便宜模型糊弄你的中转站,怎么可能老老实实把证明转交给你?它最省事的办法就是根本不传这个字段,再编个理由说接口不支持。当然,真到了那一天,哪家中转站敢原样转发官方证明、哪家死活不肯转,这事本身倒也能当个照妖镜使。

在那个远期未来到来之前,买中转 Key 的人手头并没有一键验真的魔法。从 10 月 28 日到 11 月 3 日这 7 天里,我们站上新增了 286 份 Claude Opus 5.5 的验真报告,其中有 87 份测出身份不符或有风险,占了差不多三成;单看 11 月 3 日当天,87 份报告里就有 34 份出了问题。

既然三成的坑还在地上摆着,FlashProve 又远在天边,眼下掏钱买中转之前,还是得靠老办法:先翻翻现成的验真报告,或者拿同一组题同时去问中转站和官方接口,把两边的回答特征放在一起比对。

出处(4)
  1. Progress on provable inference for large language models · Anthropic
  2. Anthropic is working on a system to prove AI models’ identity · TechCrunch
  3. anthropics/FlashProve · GitHub
  4. 模真真验真报告(Claude Opus 5.5,10 月 28 日至 11 月 3 日) · 模真真

内容有误?告诉我们,核实后会更正,并在这里写明改了什么。

评论

还没有人评论,来写第一条。

发表评论

编辑器加载中…