METR 这份外部审查,给 Anthropic 的八月风险报告盖了章,也顺手把章底下的字念了出来。它认可截至 2026 年 7 月 15 日,Mythos 5 和内部模型 Model 2 造成的灾难性错位风险处于低位——紧接着补了一句:这个“低”,主要因为模型能力还不够,不是安全防护做得好。前半句能让公关部门松一口气,后半句让认真读报告的人重新绷紧。
先说结论:低风险,但不是好消息
METR 审的,其实只是报告里的一章
范围划得很窄。Anthropic 八月那份风险报告里,“高风险场景中的错位”只是其中一个章节,METR 的独立审查就锁在这一章上,评估截止日期是 2026 年 7 月 15 日,对象只有两个:对外产品线的 Mythos 5,和没有放出去的内部模型 Model 2。它做的事情不是把 Anthropic 的评测重跑一遍——那叫复现,不叫审查。它看的是推理链条:结论有没有证据托着,证据够不够硬,不确定性有没有被如实写下来。
前半句是盖章,后半句才是正文
“灾难性错位风险为低”这七个字单独拎出来,可以贴进任何一份新闻稿。真正有信息量的是后面那半句:这个判断来自能力有限,而非防护有效。两句话指向完全不同的未来。如果低风险源于防护,那么能力往上走,风险依然可控;如果低风险源于能力不足,那么模型每上一个台阶,这个结论都得重新称一遍重量。
一份“同意但保留”的意见,价值全在保留里
外部审查最容易滑坡成背书。机构点个头,公司发通稿,皆大欢喜。METR 这次没走这条路——它同意了结论,却把结论的成立条件摊开摆在桌面上。这等于告诉所有人:你们现在安全,是因为还没走到危险的地方。这种写法对甲方不算友好,对读报告的人却很有用。
安全边际长在“无能”上,这事有多悬
能力水位,就是风险水位
把风险拆开来看,大致是能力、使用场景、防护三层相乘再相减的关系。能力这一项接近零的时候,后面两层怎么算都是零。所以一个能力平平的模型拿到低风险评级,证明不了防护体系有效,只能证明它还没被真正考验过。说得难听点:这不是体检合格,是还没开始剧烈运动。
Model 2 的位置,比 Mythos 5 更值得琢磨
Mythos 5 是对外产品,跑在完整的护栏、监控和用户协议里。Model 2 是内部模型,不见用户,但极可能被塞进自动化研究流程、评测流水线、内部工具链。这两者的风险画像根本不是一回事:一个外部攻击面小但内部权限大,一个权限受限却直接面对真实人群。METR 把它们放进同一份低风险判断,读者最好别当成同一个结论来读。
时间差里藏着真问题
评测截止 7 月 15 日,报告 8 月出,审查意见 10 月下旬公开。三个多月,在模型迭代的尺度上不算短。这份审查本质上是一张照片,不是一路直播。它准确描述了快门按下的那一刻,却没法替你在快门之后担保什么。任何把它当长期安全凭证的用法,都属于误读。
错位这类风险,本来就不好测
“高风险场景”是个模糊的筐
章节标题里的这个词组,听着具体,其实弹性极大。场景列哪些、列多细、有没有覆盖那些没人愿意写进文档的用法,直接决定评估结论的走向。清单如果偏保守,测出来的风险自然偏低。这不是造假,是方法论自带的天花板——你只能评估你想得到的东西。
灾难性错位最难的地方,是没法证伪
能力和知识可以测,因为答案就摆在那儿。错位不行。你没有办法设计一个实验,证明模型在任何未见过、未写进基准的情境下都不会追求偏离人类意图的目标。能做的是诱导:用足够刁钻的提示把潜在行为逼出来。诱导做得不充分,就会系统性地低估风险。这也是 METR 这类机构在方法上反复强调诱发质量的原因——测不出来,并不等于不存在。
测能力有标尺,测防护只有故事
能力评测有基准、有分数、有排行榜,横向可比,谁高谁低一目了然。防护评测拿不出这些东西。它依赖整套技术栈的表现:分类器准不准、监控漏不漏、人工复核来不来得及、事故真的发生之后兜不兜得住。这些环节的真实水位,外部机构很难完整验证。于是审查报告写到防护部分,往往只能做逻辑上的检查,做不了真正的压力测试。
外部审查这门生意,才刚起步
阈值写在文档里,能力长在权重里
前沿实验室普遍采用的思路,是先定能力阈值,越过阈值就上更强的防护。麻烦在于阈值是提前写死的,能力是突然冒出来的。等模型真摸到那条线,防护常常是临时加装的。这一轮审查的潜台词其实很清楚:现有防护还没被一个真正有威胁的模型撞过,所以谁也别急着宣布这套体系管用。
能审出逻辑,审不出文化
外部审查擅长抓前后矛盾、证据薄弱、措辞夸大,一抓一个准。它抓不到的东西同样关键:监控团队会不会被指标推着走、事故上报在层层传递中会不会被稀释、安全团队在路线图里到底有多少话语权。这些属于组织肌理,报告里写不出来,访谈也未必问得出来。再独立的外部审查,也只能覆盖安全论证的一部分,剩下的部分仍然要靠内部自觉。
别急着抄格式,先学会说清归因
对正在搭建类似安全框架的团队来说,这次审查最值得借鉴的不是报告结构,而是那句归因。把“风险低”和“我们安全”分成两句话说,把结论成立的条件摆到明面上,把它的有效期一并交代清楚。一份诚实的评估会告诉你什么时候该重测;一份漂亮的评估只会告诉你此刻没事。前者短期难看,长期可能救命。

