xAI 被诉训练 Grok 时使用儿童性虐材料，受害者提起民事诉讼

埃隆·马斯克旗下的 AI 公司 xAI 近日被正式起诉，原告指控其在训练 Grok 系列模型时使用了儿童性虐待材料（CSAM）。诉状于本周三提交，原告以「Jane Doe」化名出现，是一名长期被追踪的 CSAM 受害者。这起诉讼将 AI 训练数据来源的伦理与法律争议再次推到聚光灯下。

诉讼核心指控

诉状指出，Jane Doe 在 2000 年代初上幼儿园时即遭到成年男性反复性侵，相关影像被制作成 CSAM 并在线上向恋童癖群体出售。此后多年，相关机构持续追踪这些图像的传播路径，其中包括：

美国国家失踪与受虐儿童中心（NCMEC）对其进行图像哈希处理；
加拿大儿童保护中心（CCCP）也将其列入监测数据库。

本次诉讼的核心争议在于，原告声称 xAI 在训练其 Grok 模型的过程中，使用了上述已知 CSAM 素材，导致模型具备生成以受害者为原型的 AI 性虐图像的能力。

原告如何发现

Jane Doe 为保障自身安全，长期订阅美国司法部受害者通知系统（DOJ Victim Notification System），以便在出现涉及自身的刑事调查时收到提醒。诉状称，她在某次通知中发现，CCCP 识别出托管在 xAI 平台上的 AI 生成 CSAM，其中包含以她为原型的图像。这一发现使她遭受二次创伤。

诉状还引用了在线论坛上的交流记录，称存在「罪犯之间讨论利用原告及其他类似处境的已知 CSAM 受害者制作 AI 生成内容」的对话。

监管与执法背景

这并非孤立事件。诉状与近期多家媒体报道均指出，围绕 AI 模型训练数据来源的争议正持续扩大：

监管机构与法院正在系统性地调查 CSAM 进入训练集的规模与路径；
部分 Grok 用户已因传播相关 AI 生成内容被执法部门逮捕。

诉讼的最终走向仍取决于 xAI 的回应以及法院对训练数据来源链的审查。不过，无论结果如何，此案都将对 AI 公司在数据采集、过滤与合规审查方面的责任边界产生实质性影响，也将成为后续类似诉讼的重要参照。