LLM 网关这东西，说白了就是你和一堆大模型之间的中间商。你不想自己写重试逻辑、不想管 API key 轮换、不想盯着每个提供商的 SLA，那就得在前面挡一层。问题在于——这层挡板，到底该用托管的，还是自己搭？OpenRouter 和 LiteLLM 是当下被讨论最多的两个选项，一个走"全托管、零运维"路线，一个走"开源、你自己兜底"路线。选哪个不看信仰，看账本、看团队规模、看合规要求。
先把两者的底牌亮出来
OpenRouter：边缘托管，5.5% 过路费
OpenRouter 把自己定位成"跑在 Cloudflare 边缘网络上的统一 LLM 网关"，这意味着延迟理论上比直连模型 API 还要低一点，毕竟请求在全球边缘节点就近接入。它背后接了 70 多家模型提供商，自动故障转移是默认开启的——某家 provider 挂了，流量自动切到备选。前 100 万次请求免费，之后收 5.5% 平台费，没有月费、没有最低消费、按量付费。
对个人开发者和小团队来说，这个定价几乎等于零摩擦。注册、拿 key、调模型，十分钟内能跑通。但要提醒一句：你的请求数据会经过 OpenRouter 的基础设施，虽然它提供零数据保留（zero data retention）选项，但默认情况下日志是会记录的。合规敏感的场景需要手动调整配置。
LiteLLM：自部署代理，掌控一切
LiteLLM 是 GitHub 上 LLM 代理类目里 star 数最高的开源项目之一，核心组件是 Docker + PostgreSQL + Redis 三件套，自己买服务器或者用 K8s 跑起来就行。它的核心卖点不是便宜，是"数据不出内网"——所有请求从头到尾留在你的 VPC 里，对金融、医疗、政务这类强合规场景几乎是刚需。
但"自托管"三个字的代价不是软件许可费，而是运维人力和基础设施账单。官方给出的参考数字：生产级部署月基础设施成本大约在 200 到 500 美元之间，取决于流量规模和冗余配置。这笔账你得自己算。
钱的问题：到底谁更划算？
那个交叉点在哪里
官方给出了一个简单粗暴的算术：当你在模型 API 上的月支出超过约 3600 美元（基础设施按 200 美元/月算）或 9100 美元（基础设施按 500 美元/月算）时，自建 LiteLLM 比用 OpenRouter 更划算。原因很直白——OpenRouter 的 5.5% 平台费在低流量时几乎可以忽略，一旦模型调用量起来了，这笔费用会迅速膨胀到比一台 EC2 实例还贵。
但这个数字有个隐含假设：你的团队有能力运维自托管服务。如果你需要招一个专职 SRE 来盯 LiteLLM 的可用性，那人力成本大概率把基础设施那点钱盖过去了。换句话说，划算不划算不只是技术问题，是组织能力问题。
那些账面上看不到的成本
OpenRouter 的隐性成本在于供应商锁定和功能限制。虽然它支持 70 多家 provider，但路由策略相对标准化。如果你需要复杂的自定义路由逻辑（比如基于 prompt 内容动态选模型、或者按用户等级分配不同模型），LiteLLM 的灵活性优势就体现出来了——它支持六种内置路由策略，还允许写自定义 Python 路由函数，逻辑完全由你控制。
反过来，LiteLLM 的隐性成本是调试时间和故障排查。社区版没有官方 SLA，出了问题只能去 GitHub issue 区找人或者自己啃源码。对初创公司来说，这种"自己修水管"的时间成本有时候比直接付平台费更贵。
合规与延迟：没法用钱衡量的那部分
合规这事，OpenRouter 已经帮你做了
OpenRouter 持有 SOC 2 Type II 认证和 GDPR 合规证书，这两个东西对很多企业的采购流程来说是硬性门槛——没认证，对接都不用谈。如果你正在做欧洲市场或者给企业客户卖产品，这两项认证能省下至少几个月的合规审计时间。零数据保留选项打开后，请求内容不会持久化存储，进一步降低了数据泄露风险。
LiteLLM 本身只是个软件，合规认证靠你自己申请。所有安全加固、审计日志、访问控制、加密传输，都需要你自己配置。对有专门安全团队的公司来说这不算事，但小团队可能连 SOC 2 是什么都没搞清楚。
延迟差异其实没那么大
很多人担心 OpenRouter 作为中间层会增加延迟，实际上跑在 Cloudflare 边缘网络上的 OpenRouter，在很多地区的延迟表现甚至优于直连模型 API。LiteLLM 自托管的话，延迟取决于你的服务器位置和模型 provider 的网络质量，理论上可以做到最优——前提是你愿意花精力调网络拓扑。
实际体验下来，两者的首 token 延迟差距通常在 50ms 以内，除非你对延迟有极致要求（比如实时语音场景），否则这个差异基本可以忽略。
选型建议：别只看技术参数
小团队和 MVP 阶段：直接上 OpenRouter
如果你还在验证产品想法、用户量没起来、团队里没有专职 infra 工程师，OpenRouter 几乎是唯一合理的选择。零运维、零基础设施费用、按量付费、几十家模型随便切换——这种灵活性在产品早期是无价的。等你把模型调用量跑起来，再考虑要不要切换到自托管也不迟。
成熟业务和合规敏感：LiteLLM 是底牌
一旦日均调用量稳定在数十万次以上，且团队有能力自己运维，LiteLLM 的成本优势会逐渐显现。叠加合规要求（数据必须留在内网、必须自审计），自部署几乎是唯一选项。这时候前期投入的运维成本会被规模化效应摊薄，长期看比持续交过路费划算得多。
还有第三条路：两个一起用
这不是开玩笑——很多团队的做法是把 LiteLLM 部署在内网作为统一入口，对外通过 OpenRouter 调用那些 LiteLLM 没对接的小众模型。这样既保证了核心业务的合规要求，又保留了接入新模型的灵活性。架构上稍微复杂一点，但给了你最大的腾挪空间。
说到底，LLM 网关选型不是一道二选一的题。OpenRouter 解决的是"别让我操心基础设施"的问题，LiteLLM 解决的是"别让我的数据离开视线"的问题。搞清楚你现阶段最痛的点是哪个，答案自然就出来了。
