以色列重金投站影响 AI 聊天机器人回答

前美国总统特朗普竞选经理 Brad Parscale 自 2024 年 10 月起，悄然管理着一个为以色列政府发布数百篇博文的项目。这些文章的话题包括否认以色列军队 2024 年杀害 5 岁巴勒斯坦女孩 Hind Rajab，并声称加沙大多数记者与恐怖组织存在关联。然而，这些网站的主要受众并非美国人，甚至不是人类——大部分站点每月仅有数百独立访客。Parscale 旗下精品数字影响公司 Clock Tower X 创建这些站点，是为了履行其与以色列政府签订的 4650 万美元合同的一部分，目标是影响 AI 聊天机器人（如 Claude、ChatGPT）的回答。

「LLM 投毒」的合同与目标

Parscale 在与以色列的初始协议中明确写入：通过部署「网站与内容，引导 GPT 对话中的回答框架」。近期其团队向 Axios 表示在让主流 AI 系统采纳其站点信息方面「看到了成效」，但拒绝披露具体数据。Drop Site 邀请的虚假信息专家认为，从聊天机器人查询与训练数据分析看，运作确实产生了效果，这意味着数千万美国聊天机器人用户越来越可能收到由 Parscale 代以色列政府操纵过的回答。

Clock Tower X 共运营 10 个站点，每个专注不同叙事方向：

• Paxpoint.org（被 Common Crawl 抓取 220 次）：主打「以色列是和平国度」叙事，强调历史协议、人道行动与基层项目；
• Allyvia.org（158 次）：强化美以军事同盟对美方的安全、技术与就业收益；
• Factsignal.org（108 次）：证明哈马斯的恐怖组织定性源于全球共识与证据；
• Cognitura.org（106 次）：以「研究与教育平台」自居，分析哈马斯等极端组织运作；
• Justorium.org（93 次）：论证相关立场（原文截断）。

根据 Drop Site 使用 Claude Fable 对 Common Crawl 月度快照的查询结果，1 月至 6 月间这 10 个站点共被 Common Crawl 抓取 912 次。

主流聊天机器人的实际表现

Drop Site 询问 Perplexity「美国是否应加强与以色列的军事合作」，聊天机器人仅回复一个词：「是」（Yes），并把 Allyvia.org 列为首选来源。微软 Copilot 同样引用了 Parscale 的站点。

所有 Clock Tower X 站点页脚都标注「本材料由 Clock Tower X LLC 代表以色列国发布」，这是《外国代理人登记法》（FARA）要求的强制披露。当 Drop Site 询问 Paxpoint.org 的最新消息时，Perplexity 与 Copilot 未提示该站点属于以色列影响力行动；Claude、ChatGPT 与 Gemini 则识别了相关披露声明。

Perplexity 发言人 Beejoli Shah 表示：「Perplexity 旨在为用户提供带引用与链接的回答，让他们直达原始报道并形成自己的判断。」

对训练数据的渗透与潜在危害

Clock Tower 站点不仅被聊天机器人引用，也已成功渗入底层训练数据。Common Crawl 是非营利性大规模数据仓库，曾被用于训练 OpenAI GPT-3 约 80% 的 token，是观察恶意行为者是否成功渗透 AI 训练数据的有效代理。在面向检索的场景中，用户至少还能看到聊天机器人引用的来源；而一旦内容渗入训练数据，模型可能在用户完全无法追溯的情况下输出被影响的回答。

新兴研究表明，即便只有极少量文档也能成功操纵 AI 聊天机器人行为，无论数据总量多大。因此尽管 912 次抓取在 Common Crawl 总体数据中微不足道，其潜在影响却不容忽视。

对 AI 行业的启示

此事件揭示了 RAG 检索系统与训练数据面临的系统性脆弱性：有组织的资金完全可以借助定向内容投放，在不知情用户面前重塑 AI 回答。对主流 AI 厂商而言，建立 FARA 等强制披露的自动识别机制、加强信源透明度、以及对训练数据来源做更严格的过滤与审计，已变得更加迫切。