当 AI 越来越像人：谁有权决定它相信什么

2017 年，33 岁的政治哲学家伊阿宋·加布里埃尔（Iason Gabriel）在朋友的建议下加入位于伦敦的 DeepMind。彼时这家人工智能实验室正因 AlphaGo 在首尔以 4:1 击败韩国棋手李世石而震动全球，但创始人德米斯·哈萨比斯（Demis Hassabis）、谢恩·莱格（Shane Legg）和穆斯塔法·苏莱曼（Mustafa Suleyman）瞄准的目标远不止围棋。在他们看来，人类终将开发出达到甚至超越人类认知能力的通用人工智能（AGI），而这一突破必将带来深远的社会影响。加布里埃尔的到来，意味着前沿 AI 实验室里终于出现了一位专职的伦理学家。

从牛津到 DeepMind：一位「不合常规」的研究员

加布里埃尔的学术背景与典型 AI 研究者截然不同。他在牛津大学圣约翰学院教授政治理论，论文关注「雅皮士伦理」的道德扭曲与有效利他主义的伦理盲点；不在牛津时，他则在苏丹和黎巴嫩为联合国开发计划署从事危机应对工作。这种横跨哲学、国际发展与公共政策的训练，让他比绝大多数工程师更早意识到：当 AI 系统被大规模部署时，真正困难的问题并不只是「让机器做正确的事」，而是「我们究竟想让机器做什么」。

莱格在 2008 年的博士论文中就曾警告：社会不能等到 AGI 真正具备技术可行性之后，才开始思考它可能带来的影响。「如果你认真看待 AGI，那么我实在想不出为什么会认为这些问题不重要。」莱格如此解释公司为何需要一位道德哲学家。

两条道路：AI 安全与 AI 伦理

加布里埃尔加入 DeepMind 时，围绕 AI 社会与伦理影响已形成两种针锋相对的思路，分别被称为「AI 安全」与「AI 伦理」。

• AI 安全阵营认为人类水平的机器智能近在眼前，当务之急是确保系统不会失控。其思想源头之一是美国数学家诺伯特·维纳（Norbert Wiener）1960 年的论文：人类与计算机「本质上是彼此陌生的」，因此「我们最好能够确信，输入机器的目标，确实是我们真正想要的目标」。这一挑战后来被称为「对齐问题」（alignment problem）。
• AI 伦理阵营则认为，对失控机器人和生存风险的担忧只会分散人们对现实危害的注意力，强调公平、问责和透明等核心原则，主张技术带来的风险不可能仅靠技术手段解决。

两组分歧的根源与其说是思想差异，不如说是社群差异。一派起源于 Eliezer Yudkowsky 创办的论坛 LessWrong 以及硅谷长期主义圈层；另一派则扎根于批判种族理论、女权主义科技研究等学术传统。「你很难把 AI 安全与它起源于 LessWrong 这一事实分开来看」，MIT 算法对齐小组负责人 Dylan Hadfield-Menell 表示，「而公平、问责与透明阵营的人也公开瞧不起那些担心高级 AI 的人。」

加布里埃尔的「中间道路」

2020 年，加布里埃尔发表了一篇试图跨越两大阵营的论文。他认真对待对齐问题，但同时强调对齐不仅是技术挑战，更涉及伦理和政治层面的深刻问题。其中一个核心论点是：在多元社会中，不同价值观彼此竞争、相互冲突，「我们究竟应该决定把哪些原则或目标编码进 AI？又是谁有权作出这样的决定？」

加布里埃尔进一步指出，技术并不存在内在的价值中立性。一个通过统计优化训练出来的 AI，往往天然更适合同样依赖统计优化的功利主义伦理体系，但在面对德性论或权利论时则可能失灵。借鉴哲学家约翰·罗尔斯（John Rawls）「合理多元主义的事实」，他主张开发者不应寻找唯一正确的价值体系，而应为一个「人们会就怎样生活才最好持续存在分歧」的世界构建 AI。

牛津大学 AI 研究员 Hannah Rose Kirk 认为这篇论文预见了后来大模型面向数十亿用户部署时暴露出的许多问题，「加布里埃尔非常早就看到了这一切即将发生。」

大模型时代到来时，DeepMind 的迟疑

讽刺的是，2020 年论文发表时，几乎没有人能预见大语言模型日后会变得如此强大。当年 DeepMind 内部的普遍看法是，LLM「看起来远没有那些专家系统那么有能力」，不少研究员坚信强化学习等路线才是「真正正确的方向」。这条路线曾帮助 AlphaGo 战胜李世石，也支撑了 AlphaFold——2020 年以惊人准确率解决了仅凭氨基酸序列预测蛋白质三维结构的难题，并最终为哈萨比斯与 John Jumper 赢得了 2024 年诺贝尔化学奖。

然而，加布里埃尔等人早在 2021 年就作为共同作者发表过论文，认真讨论了大模型可能带来的偏见、虚假信息、环境成本与「版权蚕食」等风险。回过头看，他关于价值对齐的工作，恰好为后来不得不面对这些问题的人提供了早期概念框架。

仍未解决的谜团

加布里埃尔在接受采访时说：「我可以拿起任何一种技术产品，然后问：它是否明智？是否公正？是否关怀他人？答案都是否定的。但当对象变成 AI 时，这些问题——包括究竟什么样的伦理才适用于它——其深刻程度几乎无法夸大。有时候，我觉得我们很难真正直视 AI。那里存在着一种深刻的谜团：它究竟是什么东西？」

在资本与政治竞相涌入 AI 领域的当下，这段提问也许比任何技术 benchmark 都更值得业界直面：当对齐不能仅靠「精巧的编程」解决时，价值观的选择、AI 的可信边界以及决定这一切的权力归属，将成为下一阶段 AI 治理无法回避的核心议题。