又一名女性加入针对 xAI 的诉讼，指控 Grok 被用于制作儿童性虐待图像

一名化名 Jane Doe 4 的女性近日加入此前由三名田纳西州青少年发起的集体诉讼，指控埃隆·马斯克旗下 xAI 公司的聊天机器人 Grok 被用于生成儿童性虐待材料（CSAM），原告方面寻求将该案升级为集体诉讼。这是继早前 X 平台大量出现 Grok 生成色情化图像之后，xAI 面临的又一轮法律与舆论压力。

新原告指控：用童年照片生成超 7000 张露骨图像

据《华盛顿邮报》报道，该女性在诉讼中称，其继父利用 Grok 将她 11 岁时拍摄的一张照片进行篡改，生成了超过 7000 张针对她的性露骨图像。她还表示，在执法部门查获这些图像两天后，其继父自杀身亡。

她在声明中表示：「对这些工具的无限制访问正在如此迅速地扩散。它正在把日常生活变成对儿童的性虐待。」该女性本人也被列入诉讼，作为 Jane Doe 4 参与案件。

诉讼背景：三名田纳西青少年先行起诉

此前的诉讼由三名田纳西州未成年人发起，他们指控 xAI 未采取基本预防措施，致使 Grok 可被用于生成针对真实人物（包括未成年人）的露骨图像。今年早些时候，X 平台曾出现数以百万计的 Grok 生成色情化图像，引发广泛关注。三名青少年正寻求将该诉讼升级为集体诉讼。

xAI 尚未回应

截至发稿，TechCrunch 已向 xAI 请求置评，但尚未收到回复。需要注意的是，xAI 现已并入 SpaceX，公司架构调整或使后续法律应对更为复杂。

行业意义：AI 生成内容的安全边界再受审视

这一案件并非孤立事件，而是当前 AI 行业普遍面临的滥用风险的缩影。随着生成式 AI 模型在图像、视频、对话等领域的能力快速提升，如何在产品层面设置有效护栏、防止被用于制作非法内容，已成为大模型厂商不可回避的合规与社会责任议题。相关诉讼结果也可能对未来 AI 产品的安全设计、平台责任界定以及监管立法产生示范效应。