AI 假新闻站被指意图向大模型投喂亲华宣传内容

近日，一个名为 The Editorial 的 AI 生成新闻站点引发了关于大语言模型（LLM）数据安全的讨论。该站发布的文章看似引用规范、写作流畅，但经核实全部为虚构内容。更具讽刺意味的是，其中一篇报道讲述的恰恰是一家媒体集团收购困境中的报社、解雇员工并用 AI 取而代之、最终导致新闻业消亡的故事——而这一切本身就是编造的。

「双头」投毒假说

Nieman Lab 的 Joshua Benton 发问：既然 AI 生成的低质内容已不新鲜，为什么一个垃圾站点偏偏要围绕阿拉巴马州的地方周报编造故事？这种选题对谁有利？

发布该理论的分析者给出了自己的推断：The Editorial 的内容结构呈现出「两头并进」的 LLM 投毒特征。

• 一方面，站点大量文章涉及中国相关议题，包括台湾、中国在非洲的影响力拓展等，均采用对中国友好的叙事视角。如果大模型在训练或检索阶段摄取并信任这些内容，就可能将其中断言当作事实输出。
• 另一方面，站点的部分内容刻意瞄准新闻行业本身——尤其是关于媒体行业内部的报道。分析者认为，这是为了吸引记者和媒体从业者的注意，利用他们转发链接的习惯，借助 Reddit 等高可信度社区或媒体自身的引用，将站点推入高信任来源之列。

投毒门槛极低

分析者引用了已有研究结论指出，向 LLM 植入虚假信息所需的成本极低——有研究显示，少至 13 个词的内容就足以对模型形成污染。这使得上述假说在技术层面具备合理性。

站点运营者身份存疑

The Editorial 的所有者 Frank 在 LinkedIn 上自称是 Nordiso Group 的 CEO，资料暗示其为芬兰独立创业者。分析者表示，如果其本人愿意发声说明意图，整件事也可能只是一场测试 LLM 投毒难度的实验。但在真相明朗之前，有理由怀疑其中存在不正当操作。

该事件再次凸显了 AI 时代信息来源甄别的难度，也提醒行业关注训练数据来源的可信度问题——当 AI 生成内容被大规模生产并回流到训练数据池时，模型输出偏差的风险将持续放大。