鉴别力缺失时代：如何对陌生领域的 AI 输出做事实核查
科幻作家 Doctorow 撰文探讨「鉴别力」概念：当用户让 AI 教授陌生领域时，缺乏专业素养将难以判断输出真伪。
著名科幻作家 Cory Doctorow 近日在个人博客「Pluralistic」发表长文，围绕「鉴别力」（discernment）这一概念展开讨论：当用户请 AI 教授自己不熟悉的内容时，如何对 AI 的回答进行事实核查。文章以菲尔兹奖得主、数学家陶哲轩（Terrence Tao）与 ChatGPT 关于「雅各比猜想反例」的一段对话为引子，引发对 AI 输出可信度的深层思考。
陶哲轩与 ChatGPT 对话引子
陶哲轩作为当代顶尖数学家之一，与 ChatGPT 进行了一场关于「雅各比猜想反例」的对话。Doctorow 表示，作为具备基础数学素养、长期接触数学家父亲的读者，他虽然能读懂 Wikipedia 上「雅各比猜想」词条中每个单词的含义，却无法解析任何一个句子——换言之，他缺乏判断这段 AI 对话深浅的鉴别力。他直言：如果同时看到一段 AI 与「陷入 AI 妄想的民科」的对话记录，他同样无法事先判断孰是孰非。
缺乏鉴别力是 AI 使用的核心风险
Doctorow 认为，AI 输出中那些「令人困惑的明显错误」与「隐蔽难察的微妙错误」，才是可靠使用 AI 的最大障碍。业界倾向于用「幻觉」（hallucination）这一委婉、人格化的术语来描述这些错误，但并未改变其本质。他援引自己先前关于「坏氛围编程」（bad vibe coding）的分析指出：即便是经验丰富的程序员，也会对 ChatGPT 写出看似合理却暗藏 bug 的代码感到束手无策。
个人实践：本地 LLM 做拼写检查
Doctorow 在文中透露，他目前使用一款本地开源聊天机器人对博客文章进行拼写检查——这类工具能够发现传统拼写检查器难以捕捉的笔误，例如段落末尾忘记添加句号，或将「ever」误输为「every」。他强调，这款软件运行在自有计算机上，几乎不消耗额外网络流量，碳足迹与使用图像编辑器添加模糊效果相当。文章还附带了他公开的「纠错前」与「纠错后」文本样例，用以佐证 LLM 拼写检查的实际效果。
与批评者的多轮拉锯
围绕「用 AI 做拼写检查」这一用途，Doctorow 与网络上的批评者展开了多轮辩论，批评者的论点依次迭代：
- 质疑碳排放——Doctorow 反驳：本地运行低 CPU 负载程序几乎不产生额外碳排放。
- 质疑数据隐私——Doctorow 展示网络日志，证明本地模型不发送或接收任何网络数据。
- 质疑认知影响——Doctorow 说明：他并未让 AI 代写或解释内容，仅用于定位笔误。
批评者随后转向更荒诞的指责，例如「计算元素数量与关系即构成原罪」，但 Doctorow 指出，同样的逻辑会杀死搜索引擎、互联网档案馆与《牛津英语词典》。
工具与能力的边界
Doctorow 在文中明确反对借批评 AI 之名为媒体巨头的利益站台。他回忆四十多年前从苹果 ][+ 录入杂志上的程序代码开始使用文字处理器的经历，指出工具迭代从未让「不具备写作能力的人变成好作家」，这一规律同样适用于今天的 AI 拼写检查器：优秀作者不会被工具拖垮，而糟糕作者则可能因更「强大」的工具而更加危险。他最后把落脚点放在「鉴别力」上——它既是使用 AI 的前提，也是抵御 AI 误导的关键素养。