拆解「AI 杀伤链」：军事决策支持系统的层层失效

国际人道组织 Airwars 与研究机构 AI Now Institute 联合发布专题报告《Anatomy of an AI Kill Chain》，以一段虚构的跨国军事冲突为线索，逐环节拆解 AI 在「杀伤链（kill chain）」中如何被用于侦察、识别、评估和打击决策，并指出每一层所伴随的可靠性与伦理风险。报告强调，这些并非科幻假设，而是已在实战中部署、却缺乏有效问责的现实现状。

场景：从异常检测到锁定目标

报告设定了一个被称为「军事方」与「敌方军队」的对峙情境：军事方部署了一套由 AI 驱动的决策支持系统（DSS），持续对敌方领土的卫星图像做异常扫描。过去一个月，系统标记了 12 处可疑地点，其中包括一座「有不明卡车频繁出入的废弃社区中心」。围绕该地点，军队设置电子围栏，对所有进入者的手机信号进行追踪与记录。

数据层与感知层：CNN 与异常检测的先天偏差

在数据采集与分析阶段，系统依赖卷积神经网络（CNN）和自编码器（autoencoder）等模型对卫星图像、传感器数据进行模式识别。但报告指出，这些算法常常难以区分真实威胁与普通的环境变化，导致异常检测本身存在较高误报率。围栏捕获到一条 SIM 卡信号进入后，AI 又触发新的数据流：通话记录、短信内容、社交媒体关系链等被一并纳入人物画像。

翻译与社交评分：LLM 的「幻觉」和过度分类

• 截获的短信由基于大语言模型（LLM）的翻译工具自动转写，但 LLM 难以处理方言与上下文，导致「launching soon」之类的关键短语被简单直译，触发应急协议。
• 系统依据电信注册数据，将该号码匹配到一名 30 岁男性「Christo」，并通过通话记录、社交媒体、面部识别摄像头等数据，由决策树模型给出 1–10 的「风险分」。
• Christo 的得分是 7。报告中明确指出，风险画像模型普遍存在「将平民过度分类为战斗人员」的问题。

报告还枚举了三类被纳入评分的关键证据：

• 社交媒体帖子被自动翻译与分类，其中 Telegram 被判「支持军事方」、Facebook 被判「支持敌方军队」，但底层 LLM 容易产生幻觉，难以核实。
• 链接分析显示 Christo 约 20% 的 Instagram 粉丝和 30% 的 Facebook 好友被系统标记为「敌方成员」，随机森林等模型易产生误报。
• 位置数据显示他近期三次接近一处敌方基地，电脑视觉系统可能因外貌、步态或路线相似而错认身份。

三分钟审查与「自动化偏见」

报告的核心警示在于决策时限：由于威胁被判定为「迫在眉睫」，值班分析员仅有约三分钟来审阅全部证据。在如此短的时间内，人工核查难以完成，报告指出这会显著加剧「自动化偏见（automation bias）」——操作员倾向于直接接受 AI 输出，而非批判性地审视每一个证据节点。

结论：从模型失败到系统失败

报告总结称，AI 并不是一个孤立的「工具错误」，而是被嵌入到包含数据来源、模型假设、时间压力和组织流程的完整链条中。CNN 的异常检测、LLM 的翻译与分类、随机森林的链接分析、电脑视觉的轨迹追踪——任何一环的失效都会在缺乏制衡的决策环境中被放大，最终可能导致对平民的错误打击。报告呼吁对军事 AI 系统建立独立审计、可追溯日志与人道法层面的强制约束，而不是默认信任算法结论。