AMD Instinct MI355X 八卡跑 Kimi K3，这次不是厂商通稿式的"支持"，而是 vLLM 官方博客上一份带优化细节的技术复盘，署名 AMD 与 Embedded LLM 双方工程师。信号很清楚：开源大模型在 AMD 加速卡上的适配，已经从"能跑起来"推进到"跑得划不划算"。
Kimi K3 是典型的稀疏 MoE 架构，参数大、激活少，长上下文又是它的招牌，三件事凑在一起，对推理栈的压榨是全方位的。权重躺在显存里不成问题，专家路由的通信开销却在八卡之间被成倍放大，专家并行因此成了主线：专家切到不同卡上，再用高速互联把 token 送过去，路由不均就靠冗余专家和动态调度兜住。计算这一侧，MI355X 的 FP4/FP8 低精度路径被用满，注意力算子针对长序列重写，KV cache 分页管理压低显存占用。prefill 吃算力、decode 吃带宽，瓶颈根本不同，分开调优几乎是必然选择。
更值得琢磨的是发布位置。不是 AMD 自己的开发者场子，而是 vLLM 博客。硬件厂商现在争的早已不是纸面算力，而是软件栈的默认支持名单；Embedded LLM 这类合作方的价值也在这里——他们比芯片原厂更懂模型侧的真实痛点。对准备上推理集群的团队来说，MI355X 加 vLLM 至少多了一个可以认真算账的选项。至于能不能撼动英伟达的位置，还得看下一份公开的性价比数据。
