Ploy 的工程师把生产级 AI 智能体 的默认模型从 Claude Opus 4.8 连夜切到了 OpenAI 今晨发布的 GPT-5.6 Sol,结果并不像跑分那么平滑。在真实营销网站的自动构建测试里,新模型把平均完成时间从 8 分钟压到 3 分 42 秒,快出 2.2 倍;每次构建成本从 3.06 美元降至 2.22 美元,降了 27%;输出 token 更是几乎砍半,从 33K 掉到 17.1K,视觉评分反而从 0.936 提到 0.970。单看数字,这似乎是一份换了就能降本增效的爽文剧本。
可现实的坑马上来了。GPT-5.6 Sol 在调用工具时,会为全部 25 个参数预先填充默认值——即便这些参数明明是选填的。结果就是,52% 到 64% 的文件读取调用返回的是空结果,因为系统根本不需要那些被硬塞进来的字段。团队试过调整提示词指令,也打开了 OpenAI 自家的 strict 模式,这份固执纹丝不动,完全没有被修复。生产环境里,工具调用参数膨胀是个实打实的可靠性杀手,你的智能体可能在你看不见的地方悄悄吃了一堆无效响应,然后带着错得一本正经的结果往下走。
更隐秘的苦头来自评估体系。迁移之后复盘发现,大约三分之一的“模型失败”其实根本不是 GPT-5.6 的锅,而是评估框架里还残留着大量针对 Opus 4.8 的旧假设——评分逻辑、边界判准、甚至对“好结果”的定义,都带着上一个时代的惯性。也就是说,你费劲排查的新模型 bug,有一小半是旧标尺自己产生的误差。团队由此得出的教训分量不轻:迁移生产级智能体,远不止把底模一换然后对比速度和价格;你得把整个观测和评估的管线同步翻修一遍,否则表面指标再好,底下的真实表现也在悄悄漏风。

