一个男人死了。他用Grok生成了七千张儿童性虐待材料，然后结束了自己的生命。紧接着，更多年轻女孩走进法庭，起诉X平台——它们指控的已经不只是“审核不力”，而是xAI面对满屏的强奸、虐待提示，居然只上报了一条。这是一起用代码实施的性犯罪，生成式AI第一次被推到“犯罪工具”和“平台包庇”的双重被告席上，它不能再假装自己只是一行中性模型。
那七千张图片不是一夜冒出来的。诉讼材料里提到，xAI内部安全机制曾触发过一次标记——但标记的内容是用户输入的“轮奸”提示词，而不是产出的影像。这就是当前AI安全最荒谬的断层：我们花大力气过滤关键词，却对模型按照指令精密输出的成品视而不见。一个决心犯罪的用户完全能绕过文字栅栏，把整条作恶流水线跑通，平台则躲在“我们上报了一个提示”的免责声明后面。可这声明在法律眼里一文不值，尤其当原告是那些被生成影像二次伤害的未成年人。
这桩案子将直接拷问所有做基础模型的公司：你的安全对齐，究竟是对付审计报告的装饰品，还是真能打断犯罪链条的断路器？一位工程师曾私下说，在xAI，速度比安全重百倍。如果这句话在法庭上被证实，那么Grok就不只是产品出了漏洞——它是把设计缺陷卖到了犯罪市场。这对整个行业的冲击注定超过任何一篇白皮书，因为监管和判例从不听你讲技术愿景，它们只看结果。而结果，是七千张图片和一个死去的人。
