Google把LiteRT塞进了浏览器,这本身不意外。LiteRT.js是这个跨平台边缘运行时在Web端的新牌,推给JavaScript开发者,让他们不用碰后端就能在浏览器里跑模型——听起来很美。但翻完公告我只有一个念头:你把枪亮出来了,子弹呢?一个号称SOTA的推理引擎,基于WebGPU和即将到来的WebNN,还贴心地准备了WebAssembly CPU回退,却连一张基准测试的表格都懒得放。没有延迟对比,没有吞吐量数据,没有和ONNX Runtime Web、Transformers.js的正面交锋。这种发布,在2025年属实有点虚。
WebGPU确实是浏览器里做AI推理的正确方向,它给了开发者直接啃GPU的能力,告别了以前在WebGL里模拟计算着色器的各种拧巴。LiteRT.js如果真能把模型优化流程和浏览器管线对接好,确实有机会把端侧推理的质量往上拉一个档次。但“有机会”和“做到了”之间,缺的那口气恰恰就是数据。我想起前些年几个高调入场又悄然沉寂的浏览器端ML方案,它们败在同一个地方:开发者在实际项目里一测,发现性能根本不够看。没跑过分,就敢说SOTA,这说服力太薄了。
这件事更大的看点是Google对WebNN的态度。他们明确提到会跟进这个尚在襁褓中的标准,那才是浏览器AI推理真正的加速管道,能让神经网络算子直接调度到底层硬件。LiteRT.js此时先站好位置,战略上不算错。但开发者没耐心听战略,他们要看的是:在我的设备上跑ResNet或者Stable Diffusion的一个小版本,响应时间是30毫秒还是300毫秒。Google要是想让人认真对待LiteRT.js,下一步该干的不是发博客,而是发benchmark。在此之前,它只是一个漂亮的承诺。

