阶跃星辰把 Step 5 Preview 的权重放了出来。600B MoE 架构,单次能扛住最长 24 小时的 Agent 任务,在 NVIDIA GB300 上跑 NVFP4 精度,单卡每秒接近 8000 tokens。NVIDIA 那边转发的措辞是"StepFun 迄今为止最大的开源权重发布"。几个数字凑在一起,值得认真拆一拆——尤其是当"最大"和"最快"同时出现在一份开源声明里的时候。
600B MoE,StepFun 把牌摊开了
24 小时不间断的 Agent 任务,难在哪
跑完一次对话和跑完一个 Agent 任务,是两种完全不同的事情。对话有明确的起止,几轮之内给出答案就算交差。Agent 不一样,它要在长链条里反复调用工具、读写文件、检查中间结果,走错了还得退回去重来。时间一拉长,上下文管理、状态保持、错误恢复全部变成硬约束。素材里提到 Step 5 Preview 能处理最长 24 小时的 Agent 任务,这个数字指向的不是模型多聪明,而是它长时间运行能不能稳住。稳住,比聪明难得多。
别只盯着 600B 这个总数
600B 是总参数量。MoE 架构下,任何一次前向计算只激活其中一部分专家,实际算力开销和这个总数之间不能画等号。这正是 MoE 被大规模采用的根本原因:拿总参数的规模换知识容量,用稀疏激活把推理成本摁住。真正决定一个 MoE 模型好不好用的,是路由策略、专家粒度、负载均衡这些藏在架构图背后的工程细节。参数总量只是入场券,不是成绩单。
开源权重里最大的一次下注
"StepFun 最大的开源权重发布"这个定位值得琢磨。开源权重意味着任何人都能下载、部署、微调,这对一家模型公司来说等于把训练成果的一部分价值让渡出去。600B 级别的 MoE,下载成本和部署门槛都摆在那里,愿意放出来,赌的是生态而不是短期的授权收入。这笔账算得清不清楚,得看接下来半年有多少团队真的在它上面搭东西。
每秒 8K tokens,GB300 上跑出来的数字
NVFP4 精度,砍的是位宽不是能力
NVFP4 是 NVIDIA 在 Blackwell 一代力推的 4 位浮点格式。位宽从 8 位压到 4 位,显存占用和带宽压力同步下降。麻烦的从来不是压缩本身,而是压完之后模型还能不能守住原有表现。NVFP4 用微块缩放加二级缩放的结构,在极小位宽下尽量保住动态范围。StepFun 直接把 NVFP4 checkpoint 放出来,等于把这个取舍的结果交出去接受检验——跑得好不好,别人下载了就知道。
单卡吞吐的部署经济学
接近 8K tokens/sec/GPU 落到实际业务里,是另一套算法。同样的请求量需要多少张卡、机房电费多少、单次调用的边际成本压到几分钱,这些都要从这个吞吐数字里推导。做 Agent 产品的团队对这件事最敏感:一个任务动辄跑几十分钟,token 消耗是普通对话的几十倍,单卡吞吐高低直接决定这类产品有没有商业可行性。性能数字背后,是产品能不能活下去的问题。
checkpoint 公开,可复现才有意义
发布会上的性能数字是一回事,第三方能跑出来是另一回事。StepFun 把 NVFP4 权重放在 Hugging Face 上,任何人都能在自己的 GB300 上验证。这种透明度在开源圈子里算基本盘,但在动辄拿实验室最优数字做宣传的当下,肯把 checkpoint 交出来,本身就是态度。数字可以被质疑,权重不会撒谎。
开发者拿到手之后
SGLang、vLLM 两条路都留着
推理框架的选择,往往决定一个模型能不能被快速接进现有系统。SGLang 在结构化生成和前缀缓存上做得细,vLLM 的 PagedAttention 和生态覆盖面更广。两个都支持,意味着已经在这两套框架上跑业务的团队不需要推倒重来。看着是工程细节,实际是降低采用门槛最直接的手段——让开发者少改一行代码,就多一分被选中的机会。
NIM 一键部署砍掉了哪道坎
NVIDIA NIM 提供的是容器化的一键部署。模型权重、运行时依赖、推理优化打包成一个可以直接拉起的微服务,环境配置、驱动排查、推理引擎调优这一整套流程全部省掉。对想快速验证效果的产品团队,这条路径把从"下载权重"到"拿到 API"的时间从几天压缩到几十分钟。门槛砍到这一步,试用成本已经接近于零。
后训练交给 NeMo Automodel
开源权重不等于开箱即用。行业数据、企业私有语料、特定任务的对齐,都得在后训练阶段解决。NeMo Automodel 支持对模型做继续训练和微调,这条链路打通了,模型才真正从"能跑"变成"能用"。放权重的同时把后训练工具链交代清楚,这是把开发者留在自家生态里的标准动作,也是开源策略能不能形成正循环的关键一环。
开源权重这场竞赛,节奏变了
放权重的队伍在变
过去两年,开源权重这条线上最积极的是一批中国模型团队。原因不复杂:闭源 API 的商业化路径还没完全跑通,用开源换开发者、换口碑、换生态位,是性价比最高的打法。StepFun 这次把 600B MoE 放出来,延续的是同一条逻辑,只是量级又往上抬了一档。另一边的景象是,一些原本以开源起家的团队开始收紧许可证,把最先进的能力留在 API 后面。放与不放之间,是各自的商业化节奏在说话。
Agent 运行时长成了新标尺
模型榜单这几年换了好几轮:先是参数量,然后是多语言能力,再是代码和数学,现在轮到 Agent 表现。而 Agent 能力里最容易被量化、也最难做假的,就是能持续运行多久而不崩。24 小时这个数字一旦成为宣传口径,后面会有更多团队把自己的时长往上加。军备竞赛对使用者是好事,但它也在悄悄改变模型设计的优先级——长上下文、记忆管理、工具调用的鲁棒性,权重都在往上走。
生态比模型更难抄
权重可以被下载,被复现,被蒸馏,但围绕模型长出来的东西不好复制。谁家的模型先被 SGLang 和 vLLM 支持,谁家的 checkpoint 先被社区跑通,谁家的后训练教程先被传播开,这些沉淀下来就是默认选项。StepFun 这次同时把推理框架、部署方案和后训练链路都铺好,用的就是这个思路。600B 这个数字会被人记住一阵,但真正决定它能走多远的,是有多少人在它上面搭出东西来。

