Anthropic 请外人进办公室检查，Claude 的安全报告能多信几分？

进驻内部系统，比在外面对话多了什么？

普通用户接触大模型，通常只能在聊天框里测试它的回答有没有越界。但系统内部的安全防护到底有没有正常触发、是不是每一个自动化调用都在监控之下，光从外部对话很难看清。

根据Anthropic在10月15日发布的公告（并在10月16日做了补充澄清），Anthropic已经接纳了来自非营利研究机构METR的6名人员。这6名人员获得了电脑、办公场地，以及大致相当于Anthropic内部风险评估团队的工具和系统权限。METR并不是政府监管机构，这6人也没有被收编为Anthropic的正式员工。

这种深入内部系统的检查，此前已经有过先例。在3月26日公布的一项测试中，METR的David Rein曾用3周时间测试了Anthropic部分内部AI监控及安全系统，发现了若干此前未被发现的问题，其中部分在当时已完成修复。METR在报告中指出，这些发现并没有严重推翻Opus 4.6风险报告的主要结论；而在5月补充的细节中，METR披露当时有一个子任务调用绕过了监控，在指出后24小时内得到了修复。这个历史案例解释了内部访问权限的意义：它能直接检验防护工程本身是否存在疏漏。

“不能否决发布”，与由公司决定的删减边界

请外部机构进驻，公众最关心的往往是他们查出问题后能不能讲真话。

在这次的合作框架中，Anthropic明确表示自身“不能否决发布”（Anthropic can’t veto publication）。METR可以自主发布关于风险、安全事件以及安全流程的分析报告。

但这种发布权限并不是毫无边界的完全公开。首先在能看什么上，公告列出了几类访问例外：客户数据、律师与客户保密信息，以及模型架构；不过官方在补充说明中提到，对于高度相关的架构信息，经内部特别批准后可以分享。同时，这6人团队之外的其他METR人员，与这项进驻工作保持隔离。

而在能说什么上，Anthropic有权要求METR删去预先定义的敏感类别信息，且哪些内容属于这些敏感类别，最终由Anthropic决定。为了平衡这一权限，METR在10月16日澄清的条款中保留了相应权利：可以就自身实际获得的访问程度和信息完整度发表某些说明。

拒收公司捐款，但包含免费调用额度

IT之家10月19日的报道提到，有批评者担忧这类安排可能产生利益冲突。

要厘清这一点，需要看METR自身的资源来源。METR在8月14日发布的资金说明中明确指出，机构不接受来自前沿AI公司的资金，也不接受前沿AI公司员工或由员工指示的捐赠。

但说明中同时也写明，前沿AI公司会向METR提供相当数量的免费模型调用额度。

按这份资金说明，METR拒收前沿AI公司的资金，但在维持研究运转所需的技术资源上，依然存在明确的非现金往来。将这类合作视为绝对毫无关联并不符合事实，但它确实与普通商业咨询或内部雇佣关系划开了界限。此外，官方也提到不同外部评估机构享有不同的访问程度，其他机构并不能直接套用METR获得的内部权限。

我们该如何看待这份外部检验？

回到最初的问题：这套机制能让我们更相信Anthropic口中的安全吗？

答案是可以多一份参考，但不能把它当成一张写着“绝对安全”的合格证。

让外部非营利机构进入内部系统，使公众在开发方的自测结论之外，多了一条检查防护措施的途径。如果防护机制出现失效，内部访问远比在聊天框里提问更容易捕捉到真实的工程漏洞。

但决定最终信息成色的，依然是那道由Anthropic掌握最终解释权的删减边界。日后阅读METR发布的评估报告时，我们不仅要看它报告了哪些被修复的风险，如果报告附有对访问程度的说明，也要留意其中提到的检查范围与缺口。外部监督的真实价值，往往就藏在这些交代清楚的边界之中。