Arena 刚刚把 Meta 的 Muse Spark Open 放进了 Agent Arena,任何人都能上手实测,官方评分还在统计中。参数表先摆出来了:816B 总参数、42B 激活参数、1M token 上下文窗口、原生多模态。四个数字搁在一起,比一条发布推文有料得多。
816B 对 42B,稀疏架构的那本账
激活率不到 6%,省的是算力,赌的是容量
816B 摊开,一次前向真正参与计算的只有 42B,激活率约 5.1%。这个比例放在两年前算激进——那会儿主流 MoE 的激活率普遍在 10% 到 20% 之间。往下压意味着路由分得更细、专家切得更碎,每 token 的浮点运算被摁到接近一个中型稠密模型的水平,而知识容量还挂着一个八百多亿的参数池。
但省下来的只是计算,不是显存。部署时权重照样得整体驻留或跨卡交换,这一点很多人第一次算 MoE 的账时会栽跟头:以为自己捡了个 42B 的小模型,结果发现机房成本按 816B 收。
总参数量仍然是天花板,别只盯激活数
激活量决定一次推理有多快,总量决定它脑子里能装多少东西。长尾知识、多语言覆盖、冷门领域的事实记忆,靠的都是后者。把这两件事混为一谈,是过去两年最常见的误读,也是很多“小激活大模型”评测翻车的原因——跑分上看着像 40B,一到需要调用深水区知识的时候就露馅。
谁在为这 42B 买单
真正麻烦的是通信。总权重塞不进单卡就得跨节点,跨节点就有 All-to-All 的专家调度开销。推理延迟里,通信经常比计算还贵。这就是稀疏模型在纸面参数上漂亮、真跑起来却未必打得过同等激活量稠密模型的原因。Muse Spark Open 有没有把这块磨平,参数表不会告诉你,只有实测会。
1M 窗口和原生多模态,最容易被念错的两个卖点
上下文长度是入场券,不是成绩单
1M token 现在几乎成了旗舰模型的标配,但标称长度和可用长度是两码事。检索的稳定性、中段信息的衰减、跨段落推理的一致性——这些指标没有任何一张参数表会写进去。把一份上百页的合同丢进去,问它第 87 页的条款和第 12 页的定义冲不冲突,这才是 1M 该接受的考试。很多模型在开头和结尾表现很好,中间那段就像被雾盖住了。
“原生”这两个字值多少分
接一个视觉编码器上去不叫原生多模态。原生的意思是文本、图像、音频从预训练第一天起就在同一套表征空间里被联合优化,跨模态推理更接近理解,而不是先翻译再理解。差别藏在细节里:图表里的数字对应关系、界面截图里按钮的相对位置、视频里的时序因果。后训练阶段硬拼上去的多模态能力,往往就是在这类任务上先崩。
长窗口真正吃香的地方在智能体
Agent 的工作记忆就是上下文本身。一次任务要读文件、记中间结论、保留完整的工具调用历史、随时能回滚到上一步。窗口越长,能同时挂在状态里的东西越多,对外部记忆模块的依赖就越少,工程链路也跟着短一截。1M 在这个场景下不是炫技,是刚需——省掉一层检索,就少一个出错的地方。
Agent Arena 里比的不是嘴皮子
分数没出,用户先测的是什么
Arena 的玩法是把模型扔进真实任务链里跑,而不是看谁写十四行诗更顺。用户实测阶段最有价值的信息往往不是总分,而是失误类型:工具选错、参数幻觉、多步任务跑到一半丢了目标、撞上失败之后不知道重试。这些毛病在聊天框里几乎看不出来,一进 agent 场景就是致命的。
开放权重站上公开擂台,压力不一样
闭源模型上榜单,用户看不到权重,只能看分数;开源模型每一次翻车都可能被社区复现、拆解、截图贴出来。压力更大,反馈也来得更快。Meta 把 Muse Spark Open 放进来,等于把一部分评测权交了出去——这不是大方,是对迭代速度有底气,或者说,是不得不这么打。
Meta 这步棋,赌的是什么
开放权重是策略,不是情怀
用社区摊薄研发成本,用生态换标准。模型开放出去,下游的微调方案、工具链、部署优化会自己长出来,这些东西闭源路线花多少钱都买不到。代价同样清楚:竞争对手拿到了同一副底牌,你只能靠迭代速度拉差距。816B 总量配 42B 激活这个规格,显然不是给手机端准备的,它瞄的是数据中心里的智能体负载。
接下来盯三样东西
Agent Arena 的真实分数、1M 窗口在长任务里的衰减曲线,还有社区多久能跑出可用的量化版本。第三点尤其关键——量化跑不动,开源就只是论文,权重下载量再高也换不来生态。评分公布之前,参数表只能说明 Meta 想做什么,说明不了它做到了什么。

