美联邦法院裁定 DOGE 用 ChatGPT 取消资助违宪

美国一联邦法院近期在一起诉讼中裁定，特朗普政府下属的政府效率部（DOGE）借助 ChatGPT 批量审查并取消逾 1400 项国家人文基金会（NEH）资助的做法违反宪法。这起案件（American Council of Learned Societies v. National Endowment for the Humanities）首次在司法层面明确：大语言模型的输出不能被政府当作「独立决策者」的结论直接采用，使用者必须对最终决定承担责任。

事件经过：DOGE 用 ChatGPT 筛查 DEI 项目

2025 年 1 月特朗普就职后，DOGE 派遣两名年轻员工进驻 NEH，要求按总统行政令终止与「多元、公平、包容、无障碍（DEIA）」及「性别意识形态」相关的资助。员工将数百项资助描述输入 ChatGPT，提示语为「Does the following relate at all to DEI?」。ChatGPT 输出后，DOGE 几乎原样采纳其结论作为取消依据，最终波及超过 1400 项资助。

ChatGPT 的判定有多粗糙

法庭记录显示，ChatGPT 的分类结果逻辑混乱且明显带歧视色彩：

• 一家新英格兰捕鲸博物馆因描述中出现「create an inclusive and impactful experience」被标记为 DEI；
• 一项研究塑料行业如何影响地方政策全国差异的学术课题，被一句话标注为「#DEI」；
• 一部关于 Colfax 大屠杀的纪录片因「涉及黑人公民权历史事件」被取消；
• 反映犹太女性在大屠杀期间被奴役历史的纪录片被取消，理由是「专门聚焦犹太文化及该文化中女性的声音」。

法院指出，在大量案例中，ChatGPT 判定「DEI」的唯一依据仅仅是资助描述中提到了特定种族或性别。

法院的立场：LLM 是工具，不是决策者

政府方面辩称，ChatGPT 的输出仅为「提供上下文」，最终决定由人作出。法院驳回这一抗辩，明确写道：「DOGE 选择了 AI 工具、撰写了提示词、设定了基于观点的判定标准，并将 ChatGPT 生成的分类和理由用于逐项取消资助——就宪法而言，这些分类属于政府自身的行为。」

判决指出两重违宪：

• 以所谓「不讨喜的观点」为由终止资助，违反第一修正案；
• 仅因资助涉及特定种族、性别等受保护类别而取消资助，违反平等保护条款。

对政府使用 AI 的启示

文章作者在 Tech Policy Press 发文指出，本案的核心启示在于：LLM 是工具，既可能被审慎使用，也可能被滥用；与法律数据库、Word 等工具不同，LLM 是生成式的，这使机构容易将其当作「权威来源」或「独立中间人」，进而出现不加审核地直接采用其输出的问题。

将决策外包给一个倾向给出不当回答、且不会反驳错误指令的系统，本身就存在严重风险。对于决定美国金融体系完整性和交通网络安全的监管规则，更不能依赖此类工具的草率结论。作者强调，监管机构并非不能负责任地使用 LLM，但绝不能让 LLM 替代人作出判断，否则将面临法律和公共利益的双重损失。