一个0.6B参数的轻量级模型,执行特定任务的效果,竟然能正面硬刚32B参数的业界标杆。这听起来像是营销话术,但一个名为程序即权重(Program-as-Weights, PAW)的新范式,用扎实的实验数据让它成了现实。它不只是微调或蒸馏,而是彻底换了个思路:你想要函数?好,我直接给你一个编译好的、能离线运行的神经模块。
不止是提示:当函数成为可执行的神经代码
传统上,我们让大模型干活,靠的是提示词工程。你写一段自然语言描述,连同输入丢给Qwen3-32B这样的庞然大物,它绞尽脑汁,算力燃烧,给你输出答案。一次性的,昂贵的,高度依赖网络和API的。PAW的作者们问:如果这个函数,比如“从混乱的日志里提取时间戳和错误级别”,我们能把它变成一个独立、轻量的二进制文件呢?
传统方式的瓶颈
提示即服务,成本随调用线性增长。对于高频、定义清晰的模糊任务——解析特定格式的JSON、修复用户输入的拼写、处理固定模式的日志——每次都调动百亿参数的模型大军,是种巨大的浪费。这就像为了喝一杯牛奶,你每次都得买下并饲养一整头牛。资源错配是表象,根本问题是求解器和工具的混淆。
PAW的核心:编译,而非推理
PAW构建了一个精妙的流水线。用户用自然语言定义函数,比如“输入一段用户投诉,输出是否包含退款诉求的布尔值”。这个描述被送入一个专门的4B参数编译器(在海量的FuzzyBench数据集上训练而成)。编译器不输出代码,它输出一组参数高效适配器。这些适配器就像定制化的“插件”或“面具”,被装配到一个基础的、被冻结的0.6B参数解释器上。瞬间,这个小巧的解释器就“化身”为一个专精于此任务的专家。
训练:教会编译器理解模糊
关键在于这个编译器如何学会处理“模糊”。FuzzyBench数据集充斥着各种定义不够绝对精确的函数示例。编译器学习的,正是如何将人类语言中那种带有歧义的意图,映射到能高效解决一类问题的神经参数上。这不再是学习一个具体答案,而是学习一种解题的“策略”或“模式”,并将其固化为适配器权重。
0.6B跑赢32B:实测背后的工程奇迹
纸面概念总得拉出来溜溜。PAW团队的测试结果足以让任何关注模型部署成本的人心跳加速。他们用编译器为Qwen3-0.6B解释器生成了一系列针对常见模糊任务的程序(即适配器)。
性能对决:小个子放倒大块头
在多个评测任务上,装备了PAW程序的Qwen3-0.6B,其表现与直接提示的Qwen3-32B不相上下,某些任务甚至略有超越。这意味着,一个在消费级硬件上能轻松运行的模型,完成了原本需要数据中心级算力才能胜任的工作。性能上的平起平坐,是技术可行性的最强证明。
效率碾压:内存与延迟的极致优化
更震撼的是效率指标。运行PAW程序的0.6B解释器,其推理时的内存占用仅为直接运行32B模型的约五十分之一。在一台Apple MacBook M3笔记本上,它的推理速度达到了30 tokens/s——这是一个完全可用的实时交互速度。成本从每次API调用的几美分,降到了本地硬件上微乎其微的电费,而且完全离线、零延迟、无隐私风险。这已不是优化,而是范式级的跃迁。
范式转移:从解题到造工具
PAW最深刻的启示,或许不在于它做出了一个更快的推理引擎,而在于它重新定义了基础模型的用途。模型不再仅仅是面对每一次新输入的求解器,它同时具备了成为工具构建器的潜力。
开发流程的重塑
开发者的工作流因此改变。过去,是“为任务A调试一个完美的提示”。现在,变成了“为任务A编译并优化一个PAW程序”。这个程序生成后,便成为一个可版本控制、可测试、可分发的资产。你构建的不是一次性的查询,而是一个可复用的神经组件。这更接近传统软件工程的思维:构建可靠的库和模块。
对产业的长远涟漪
想象一下,未来一个App内置了成百上千个这样的PAW程序,分别处理不同的微任务。App变得极其“聪明”且高效,但其核心AI模型却小巧得可以装进手机。边缘计算、物联网设备、注重隐私的应用场景将率先受益。大模型的价值,将从直接处理每一个请求,部分转向为整个生态系统生产高质量的“神经工具”。基础模型厂商的角色,可能悄然从“云计算服务商”演变为“核心智力工具的铸造厂”。
挑战与未竟之路
当然,PAW并非万能钥匙,它也划定了清晰的战场边界。
当前局限的清醒认知
它最适合那些输入输出模式相对稳定、可通过自然语言清晰描述的“模糊函数”。对于需要广泛世界知识、复杂多步推理、或创造性生成的任务,直接与大型通用模型交互仍是主流。PAW是解决重复性专业任务的专家系统,而非取代通用智能的银弹。此外,4B编译器本身也需要大规模计算资源来训练,其能力的边界直接决定了能编译出的程序质量。
通往未来的可能路径
未来的方向可能在于几个关键拓展:一是提升编译器能力,使其能理解和编译更复杂的函数定义;二是探索更先进的适配器结构,进一步压缩资源消耗;三是构建一个PAW程序的共享市场或开源生态,让开发者能方便地获取和贡献高质量的“神经函数库”。当这些拼图逐渐就位,“程序即权重”也许将如其名,真正成为AI原生时代的一种基础编程范式。

