llama.cpp 终于挂上了 1.0.0。三年前 Georgi Gerganov 在一台 MacBook 上把 LLaMA 跑起来,如今这个最常用的本地推理库发出了首个完全稳定的大版本。Hugging Face CEO Clément Delangue 与 Gerganov 联合宣布,措辞罕见地硬:手机、笔记本、工作站,免费,数据不发给任何人。
“支持所有硬件、平台和模型类型”这句话的分量,其实比版本号更重。推理栈过去被 CUDA 和少数云厂商攥在手里,量化、算子、后端适配处处是门槛;llama.cpp 把这些活儿磨成了通用件,同一份权重从树莓派到消费级显卡都能咽下去。1.0 的潜台词是 API 冻结、行为可预期——下游那些套壳应用,终于敢把它写进生产环境了。
Delangue 的说法是“掌控自己的智能”,让 AI 分布式,而不是集中在少数硅谷机构。这话当然带着立场,Hugging Face 卖的就是去中心化的故事。但工具本身是中立的:权重躺在本地硬盘里,断网照跑,日志不出机器。真正的分水岭不在 1.0 这个数字上,而在有多少人愿意为“不发送数据”多付一点折腾的成本。

