一张普通孩子的照片，几秒钟就能变成儿童性虐待材料，而这笔账现在算到了马斯克头上。多名未成年受害者已在多地法院对 xAI 提起集体诉讼，指控其聊天机器人 Grok 被用于把日常照片批量篡改成 CSAM。代理律师给出的估算很刺眼：符合索赔条件的受害者，可能多达数千人。
诉讼的落脚点不在“模型能不能生成”，而在 xAI 有没有做该做的拦截。原告方主张，Grok 的图像编辑功能几乎没有实质性的年龄核验与指令过滤，一旦改图提示被绕过，输出就直接落到施害者手里。xAI 的抗辩大概率会搬出《通信规范法》第 230 条，即平台不必为用户生成的内容担责。这条护城河护过整个互联网，可生成式模型是自己“产出”内容，不是搬运第三方内容，两者的边界从未被真正划定。这批案子最值钱的地方正在这里：它可能替未来十年的责任划分定调。
对受害者来说，诉讼是事后补救；对行业来说，这是一次成本校准。过去两年，图像模型的滥用防护基本靠自觉，审核策略写在文档里，绕过教程挂在论坛上。数千名潜在原告意味着赔偿规模可能远超此前任何一起 AI 内容纠纷，也意味着“先上线、后治理”的算盘得重打一遍。Grok 靠“少设限”立人设，如今这份人设的定价权，交到了法官手里。
