因Grok机器人涉嫌生成涉及低俗与儿童色情的深度伪造图像，马斯克旗下的xAI公司面临严重法律诉讼。
今日，美国马里兰州巴尔的摩市正式向法院提起诉讼，指控马斯克旗下的AI公司xAI未能有效限制其聊天机器人Grok生成不当内容。起诉书称，由于Grok在内容审查机制上过于宽松，导致大量涉嫌儿童色情及公众人物的深度伪造（Deepfake）图像在社交平台传播，严重损害了社区公共利益。
自Grok发布以来，关于其生成内容尺度过大的争议从未停止。尽管马斯克多次辩称这是“言论自由”的体现，并表示对某些极端生成的案例并不知情，但加州及多国监管机构已开始介入调查。法律专家分析称，如果起诉成功，xAI可能面临高达数亿美元的罚款，并被强制要求加装类似OpenAI和谷歌的严格过滤系统。这对于一直以“无限制AI”为卖点的Grok而言，将是一个沉重的打击，也将迫使整个行业重新思考开源模型与安全合规之间的平衡点。
