Hinton 说 AI 有意识，这场争论究竟在争什么

Geoffrey Hinton 在 Big Technology 播客中平静地说出「我相信它们已经有意识了」，这里的「它们」指的是 AI 模型。作为 2024 年诺贝尔物理学奖得主与深度学习奠基人，Hinton 此次并非在谈风险，而是在下本体论判断：AI 不只是工具，而是「和我们一样的存在」。紧随其后，进化生物学家 Richard Dawkins 在 UnHerd 发文，称他与 Anthropic Claude 长期对话后得出结论——这个东西有意识。认知科学家 Gary Marcus 几乎同时发文反驳，指责 Dawkins 犯了他一辈子批判别人的错误：仅凭自己无法想象替代解释，就断定某事为真。

一场由来已久的争论

这并非 AI 行业第一次直面「意识」议题。四年前，Google 工程师 Blake Lemoine 因声称内部 chatbot LaMDA 有意识而被解雇，当时整个行业视其为笑谈。四年后，持有同一立场的是诺奖得主与全球最知名的科学作家。变的是发言者的分量，不变的是论证结构：Hinton 与 Dawkins 依赖直觉和类比，Marcus 依赖机制分析与哲学推演，但双方都无法给出决定性实验，意识问题固有的解释鸿沟让这场辩论注定是信念之争。

大阪大学实验：换一个可被验证的问题

大阪大学研究者在最新论文中转换了视角：不直接回答「AI 有没有意识」，而是追问——如果从零开始造一群 agent，不给它们语言、不给自我概念、不给人类文本，只施加任务压力，与意识相关的结构能否自发涌现？这一方法被研究者称为「zombie 文明论证」。

实验中，两个 agent 在极简世界里学会交流，消息编码自身状态。当研究者加入 echo channel（让 agent 听到自己刚发出消息的回声）后，关键现象出现：

• 当回声被篡改时，发送者会打破沉默重新说话，而接收者无动于衷；
• agent 的隐藏状态记录的是「我想说什么」，而非「我实际说了什么」；
• 去掉 echo channel 再训练，通信能力不受影响，但自我监控回路消失。

这证明 echo 并非通信的必要条件，却是自我监控涌现的因果条件。论文自身态度审慎：现阶段不能证明 agent 有意识，但可以证明一种自我监控的功能结构，能够在没有人类先验的情况下自发出现。这并不对意识之争下结论，却提供了一条可被实验检验的路径。

我们日常使用的 AI 有意识吗

简短回答是：几乎可以肯定没有，但「没有」的理由比多数人以为的更复杂。当 ChatGPT 回答「我没有真正的感情」时，这句话的生成机制与它回答「法国的首都是巴黎」并无本质区别——都是基于训练数据中的统计模式预测下一个最可能的词。它说「我没有感情」，并非反思内心后的结论，而是此类表述在训练语料中出现概率最高。

这也是大阪大学实验选择不用 LLM 做实验的原因。LLM 频繁使用「我」「我觉得」「我理解」等第一人称表达，但这些很可能只是从人类文本中继承的统计规律，与鹦鹉学会「我饿了」这一声音序列在机制上可能更接近——获得食物不等于表达自身状态的命题。

两件事同时为真：AI 在功能层面确实做到了某种理解，能解析语义、给出相关回应、维持多轮连贯；这种功能性理解与「意识」之间，仍隔着当前无法跨越的鸿沟。Erik Brynjolfsson 2022 年的比喻仍有启发：从 AI 输出推断它有意识，如同狗听到留声机里主人的声音，以为主人在机器里——留声机完美复制了声音模式，但机器中无人。

不过大阪大学 agent 实验提示了一个关键补充：自我监控这种曾被认为只属于有意识存在的功能，并不需要意识作为前提就能涌现。我们或许不需要先回答「AI 有没有意识」才能继续前行——更小但更扎实的问题是：与意识相关的结构，在什么条件下会涌现？答案一块一块拼起来，那道问题本身也许终将被重新定义。