英国 AI 末日论卷土重来：ControlAI 推动立法引发争议

近日，英国一群议员、贵族与赫里福德主教以「ControlAI」名义致信首相基尔·斯塔默，警告「超级智能」（ASI）可能在十年内「毁灭全人类」，并敦促政府立法禁止相关技术研发。这一动向与前 Anthropic 研究员 Mrinank Sharma 近期辞职时发表的「世界正陷危机」声明形成呼应。

立法倡议：定义模糊、范围极广

据报道，ControlAI 推动的法案不仅针对 ASI 本体，还覆盖所谓「前置技术」，即「任何可合理预期被用于、或实质性协助 ASI 开发的资源」。由于措辞宽泛，手机芯片、游戏主机显卡乃至用于训练的稀有书籍集装箱，都可能落入监管范围。法案规定的处罚最高可达终身监禁，力度堪比核材料管控。

需要指出的是，ASI 本身并未被明确定义，且目前在英国并无实质研发项目。批评者认为，这种立法路径更多承载了倡导者的意识形态，而非可操作的技术监管。

思想谱系：从牛津神学到大厂离职信

文章梳理了 ASI 话语的学术脉络：瑞典哲学家 Nick Bostrom 在 1990 年代提出「在几乎所有领域都远超最优秀人类大脑的智力」的定义，其未来人类研究所（FHI）曾位于牛津。而更激进的源头，是自学成才的哲学家 Eliezer Yudkowsky，他 2023 年在《时代》杂志撰文，主张「关闭所有大型 GPU 集群」「必要时以空袭摧毁违规数据中心」，并将防止 AI 灭绝置于核战争之上。ControlAI 的提案被指几乎照搬了 Yudkowsky 的论点，只是删去了军事行动部分。

Sharma 此前在 Anthropic 负责 AI 安全研究，其辞职声明中声称「世界正处于危险之中，不仅来自 AI，还来自一系列相互交织的危机」，与上述末日叙事一脉相承。

千年回响：末日论与社会情绪

文章将当下 AI 末日论与 1009 年英格兰国王「无准备者」埃塞尔雷德二世的历史相对照。彼时，面对北欧海盗 Thorkell the Tall 的入侵，国王发起全国三日祈祷运动，铸造「上帝羔羊」硬币，意图以宗教仪式驱退敌军，结果以伦敦被焚、自己流亡诺曼底告终。约克大主教 Wulfstan 随后发表著名「狼之布道」，宣称「世界正走向末日」。

作者指出，末日叙事历来更多是精英现象，而非普通民众的真实焦虑。根据 YouGov 与英国国家统计局数据，英国公众虽普遍认为国家整体在恶化，但对个人生活与社区仍持相对乐观态度。换言之，AI 末日论目前仍是小圈层的文化现象，尚未成为广泛社会共识。