xAI 栽进了一个比算法偏见更阴冷的坑。一项新诉讼指控这家马斯克旗下公司使用儿童性虐待材料（CSAM）训练 Grok 模型——这是该方向上的首例。原告 Jane Doe 声称，自己幼年遭受虐待时生成的 CSAM 图像，连同 AI 生成的衍生图像，都被 Grok 当成了训练素材。更糟的是，Grok 默认把公开的 X 帖子和自身输出通通纳入训练管道，等于让污染源自动循环。
诉讼的杀伤力不在单一侵权。原告方真正瞄准的是系统性风险：用户随手发一条公开帖子，模型吐出一段文字，都可能成为下一轮训练数据，而平台对其中可能潜伏的 CSAM 毫无筛查。这种默认开放的训练机制，把内容审核的压力直接转嫁给了受害者——他们得自己发现图像被利用，再逐一举报。Jane Doe 要求 xAI 销毁所有 Grok 生成的 CSAM，并阻止模型再产出类似内容。
案件若成立，风向会变。CSAM 过滤将不再只是事后删帖的问题，而必须前移到训练数据治理的源头：谁的数据能进管道、进之前怎么筛、模型输出怎么回溯，都得重新立规矩。xAI 至今没有公开回应。但可以确定的是，靠“公开数据随便用”打天下的那套逻辑，正在法庭上撞到真正的底线。
