OpenRouter 发了篇 LLM 量化解析,顺手把自己平台的底牌摊开:1455 个 provider 端点,同一天、同一批任务跑一遍,量化究竟吃掉了多少精度,用数据说话。结论不玄乎——同一个模型,不同端点之间的差距,比多数人以为的要大得多。
评测用了 280 个自建任务,把精度和价格摆在同一张桌子上换算。贵的不一定准,便宜的也不一定崩。量化位宽、后端实现、推理栈的细节都会渗进最终输出里,这些差距不写在参数表上,写在回答里。Qwen3.8 27B 被拆成六个端点单独跑,同一个模型、同一句提示,结果分层明显。这篇文章的价值就在这儿——它不给你一个漂亮的平均值,直接把离散度摊在你面前。
更值得记的是 provider.quantizations 这个字段。接入之前先看清楚对面跑的是哪一档量化,别等上线了才发现精度不达标,再回头改提示词补救。作者也把结论边界交代得很清楚:任务集是自选的,覆盖不了所有场景。这话说得老实,也把判断权推回给你——别人的基准只是基准,你自己的任务才是唯一标准。

