一桩还没掀起太大水花的法律裁决，悄悄把Google推到了被告席上——理由很直接：它家AI模型生成的幻觉内容，Google得负责。这事在中文圈讨论度几乎为零，但在Gary Marcus的Substack上已经被当成里程碑事件在解读。缺憾是目前只有一方的转述，原始判决书还没流出来，但光是这个方向本身就够让所有做AI应用的人后背发凉。
过去几年，AI公司挂在嘴边的话术一直是"模型可能产生不准确输出，请用户自行核实"。这相当于把责任一脚踢给使用者——聊聊天可以，付费用来干活就纯属耍流氓。一旦法院认定幻觉属于可追责的产品缺陷，而不是"已知技术局限"，整条免责链就断了。欧盟AI法案还在纠结怎么定义通用模型的透明度义务，美国这边已经从判例角度捅了刀子。技术供应商和服务提供方之间的责任切分、RAG幻觉、摘要失真这类常见故障的赔偿标准，都可能被迫重写。
对国内大模型团队来说，这案子最有价值的部分不在判决本身，而在它打开的口子。一旦英美法系形成可援引的先例，国内司法实践会不会跟进？大概率不会照搬，但方向性参考意义已经足够。做生成式AI产品的人现在该做的不是观望，而是把幻觉评估、来源标注、人工兜底这些"成本项"重新算进商业模型里——监管从来不会等你准备好。
