你给大模型看一张图,它答对了。你原封不动再问一遍,它改口了。这不是偶发 bug,而是当前多模态 AI 的默认工作模式——视觉感知这件事,对它们而言更接近“看图猜谜”而不是“看见并理解”。Moonshot AI 刚刚放出的 PerceptionBench,把这个问题摊在了桌面上,用 3000 道验证题、10 项原子能力、以及一组让所有模型都不及格的分数,逼着行业重新审视一个尴尬的事实:这些号称能“看懂世界”的模型,到底是在看,还是在蒙?
一个问题:当模型反复改口,还算不算感知
从四十多个基准的失败里长出来的测评
PerceptionBench 不是坐在会议室里拍脑袋设计出来的。Moonshot AI 的团队翻遍了超过 40 个现有视觉-语言基准,把模型实际摔过跤的案例一个个捡出来,归纳、抽象、分解,最终萃取出 10 项原子感知能力。这不是那种拍几张照片、问几个常识问题的常规操作。每一项原子能力都是刻意去戳多模态模型的痛处——比如,判断物体材质是木质还是金属,却故意给一张光线极差的图;又比如,数清楚画面里七扭八歪的物体数量,而背景排列恰好是模型最容易产生幻觉的那种纹路。这 3000 道题目,每一道都带着明确的诊断意图:我要测的不是你的常识,不是你的语言能力,就是你那双“数字眼睛”到底看得有多准。
不及格是常态,棘手的是猜得很像“真懂”
结果呢?所有被测模型准确率没有超过 60% 的。这个及格线都没摸到的数字,放在任何一个严肃的评测任务里都算事故。但更让人后背发凉的是另一个发现:大量正确答案在重复提问时无法复现。团队在复现性实验中确认了一个令人生疑的模式——很多答对的题,其实不是模型稳定感知的结果,而是一次成功的高概率猜测。你给它一张照片问“桌子上有几个苹果”,它这次猜 3 个,对了;下次同样的图同样的 prompt,它猜 5 个。这中间的摇摆直接击穿了“视觉理解”这块招牌的底线。
原子能力拆解:把“你看错了”变成“你在哪里看错了”
多模态评测领域长期存在一个无解的问题:模型答错一道题,你不知道是视觉模块没提取到关键特征,还是语言模块推理时掉了链子。PerceptionBench 的原子能力设计,某种程度上就是要把这根链条断开。10 项原子感知能力——空间关系、属性识别、计数、材质判断、动作理解、局部细节抓取等等——每一项都尽量剥离掉高层的推理干扰,专注在视觉信号本身能不能被准确编码。这种做法像给眼睛单独做个体检,而不是让大脑和眼睛混在一起看诊。只有这样的解剖,你才真正知道模型在哪个环节开始撒谎。
多模态的皇帝新装:别再用语言能力掩盖视觉缺陷
模型其实很会“瞎编得有道理”
很多做过多模态产品的人都有类似体感:模型明明把颜色认错了,却能用流畅的句子把那个错误描述包装得像亲眼所见。这不是偶然。当前多数多模态架构把视觉编码器的输出直接喂给语言模型,语言模型太擅长用上下文去“脑补”了。你让它描述图里的钟表时间,指针要是模糊不清,它大概率会给出一个看起来合理、语法完美但完全错误的时间点。PerceptionBench 的测试结果等于给这种行为模式提供了系统性的证据:模型的视觉感知并未形成稳定表征,它只是在一个又一个采样中不断重组概率最高的回答,而这种重组碰巧能蒙对几次。
可复现性陷阱:一次答对根本没有意义
这直接把一个残酷问题甩给了所有拿单次准确率当核心指标的评测体系:如果一次答对不代表模型看见了,那你的评测到底在衡量什么?PerceptionBench 特意强调重复提问的可复现性,就是要切断这条自欺欺人的退路。在同一个输入上多次推理结果天差地别,说明模型内部并没有建立起对视觉事实的稳定把握。那些原本被大厂拿出来秀肌肉的 demo,一旦放在这个刻度尺上重新量一遍,可能都要重新思考“理解”这个词该怎么用。
精准诊断才能长出真正的视觉
批判现状只是第一步。PerceptionBench 真正的价值,在于它给多模态研发团队提供了一套可操作的断裂点诊断工具。研发者现在可以清楚地看到,自己的模型在哪一类原子感知任务上翻车最严重——是总是忽略边缘细节,还是对遮挡物体毫无抵抗力,抑或是在物体相对位置上频繁失分。这种精细剖析是模型迭代的刚需,因为你不可能用一个笼统的“总分有点低”来指导下一次训练。知道病灶在哪儿,才能对症下药,把数据集、训练策略、架构调整精准指向薄弱环节,而不是盲目地加参数、堆数据,继续赌运气。
猜测型 AI 的终局:要么长出真眼睛,要么退回去当瞎子
真正的危险不是跑分低,是幻觉太自信
全行业都在谈多模态幻觉,但少有人像 PerceptionBench 这样,用一个干净的实验设计把幻觉和真实感知剥离开。这里揭示的不只是“模型容易犯错”,而是一种根本性的认知姿态:模型并没有觉得自己在猜。它用和确认事实一模一样的自信输出一个猜测结果,这才是最危险的。当这种技术被推进自动驾驶、医学影像、工业检测这些真金白银的领域,一次自信的误判就可能越过安全边界。PerceptionBench 相当于替这些高风险场景提前拉响了警报——当前多模态系统的视觉可信度,远没有到达可以托付生命的程度。
从及格线到信任线,需要重新定义评测
评测基准应该长成什么样?过去大家习惯画一条及格线,仿佛过了 90 分就算好模型。PerceptionBench 提出了一个更苛刻也更诚实的方向:评测必须包含一致性维度。一个真正忠实的视觉理解系统,不仅要在统计意义上答对题,还得在同一张图上保持稳定的判断。这意味着未来的评测可能都需要内置可复现性检查,模型得证明自己是“确信”而不是“偶然命中”。这条标准一立起来,很多现有排行榜的位次怕是要重新洗牌,但也只有这样,多模态 AI 才可能从实验室里的炫技工具,变成现实世界中值得信赖的伙伴。
原子能力的下一步:走向交互与动态感知
PerceptionBench 目前聚焦在静态图片的原子感知上,这已经够刀刃向内了。但视觉的最终难题不在静态,而在动态——视频、实时交互、持续变化的环境。可以预见,这种原子化诊断的方法论必然要扩展到时序维度,去捕捉模型在帧与帧之间如何维持物体恒常性、如何推断运动轨迹、如何在遮挡和重识别中保持身份一致性。那时,真正扎实的视觉智能才会从“猜”中脱胎,长出属于自己的骨骼。而不是现在这样,靠语言模型的皮囊,撑起一套看似灵敏实则脆弱的躯壳。

