软件里最不起眼的那行代码正在被 AI 盯上——不是生成文案,不是写诗,是 if-then。Tomer Tunguz 在其最新分析中提出,新一轮模型竞争的主战场已经挪到判断原语上:Jev、SemIf 这类专用决策器在数百毫秒内返回结果,成本只有传统生成式调用的七十六分之一到二百零九分之一。
他把这件事放进了自己的 Agent 里验证。做法很直接:把约四分之一的调用从通用大模型换成判断专用小模型。在 98 条人工核验过的生产邮件线程上,Jev 的分类准确率是 80%,本地跑的 SemIf 是 82%,两个数字都把原来那套生产模型的 47% 甩在后面。便宜、快、还更准,这种组合在 AI 工程里并不常见。
值得琢磨的是胜负手在哪。邮件分类不是开放创作,答案空间狭窄、边界清晰。通用模型为了维持"什么都能干"付出了巨大代价,而专用决策器只需把判定做对。当任务被拆得足够细,前沿模型的通用性就从优势变成了税。换掉四分之一调用只是开始,真正的问题是:你的 Agent 里,有多少 if 其实根本不必动用那个昂贵的"大脑"?

