LangChain 这次补的不是功能,是账单。新发布的 langchain-scaledown 集成,加上 LangSmith LLM Gateway 对 ScaleDown 约束解码模型(CDM)的原生支持,指向的是长时智能体最容易被忽略、也最烧钱的一环——上下文管理。
ScaleDown 的思路不是截断,也不是摘要。CDM 在给定 token 预算下用约束解码重写上下文:任务状态、工具调用结果、关键约束保留下来,寒暄和重复的推理轨迹被压掉。对 deep agents 这类要跑几十上百步的智能体,全量历史每轮重发,成本和延迟是复利式增长的,压一次省一路。langchain-scaledown 让这套压缩作为中间件接进链式调用;Gateway 里的支持更彻底,改路由配置就生效,业务代码一行不用动。
真正值得琢磨的是位置。上下文压缩正在从应用层的提示词技巧,下沉为网关一层的基础能力。一边是模型厂商不断把窗口做大,一边是中间件厂商告诉你窗口没必要用满,这两条路线看起来在打架。其实不然——窗口越大,压缩的价值反而越清晰:问题从来不是塞不塞得进去,而是这么塞划不划算。

