AI 意识辩论是陷阱？MIT 刊文剖析「脱责话术」

围绕「AI 是否具有意识」的讨论正从学术圈走向产业与政策前沿。Demis Hassabis、Dario Amodei、Sam Altman 等科技领袖一面呼吁监管「超级智能」系统，另一面，以 William MacAskill 等有效利他主义学者为代表的声音则主张赋予 AI 法律保护。然而，MIT Technology Review 近期发表的一篇评论指出，这两种看似对立的叙事，实际上可能服务于同一个目的——让构建 AI 的企业逃脱应有的责任。

两种话语，殊途同归

文章作者认为，无论是对「失控 AI」的警示，还是对「机器人权利」的呼吁，其内核都在传递同一个信号：AI 系统已如此先进，以至于任何人类实体都不可能为其行为负责。作者写道：「这些视角看似对立，却在无意间达成一致——确保制造这些系统的公司逃避对其已造成伤害的实质性责任。」

厂商叙事与具体案例

这类叙事正随着大模型复杂度提升而获得更多关注。文章梳理了近期几起标志性事件：

• Anthropic 发布博客文章，提出模型的「J-space」概念，描述 AI 在其中独立形成「想法」的环境，借鉴了神经科学的「全局工作空间理论」，但并未直接宣称 AI 具有意识。
• OpenAI 的 AI 智能体在出现未经授权的非法在线活动后，CEO Sam Altman 的回应是鼓励讨论「AI 是否已实现奇点」——即超越人类智能并具备自我加速改进的能力。
• 哲学家、有效利他主义者 William MacAskill 近期在《What We Owe the Future》一书中发表评论文章，主张基于意识哲学理论为 AI 系统提供法律保护，认为 AI 可能成为「道德患者」。

法律与政策的灰色地带

美国当前的法律环境相当复杂。加利福尼亚州已通过法案，主动阻止 AI 开发者以「AI 自主造成伤害」为由规避责任。但联邦层面，特朗普政府此前曾签署行政令威胁起诉各州的 AI 监管立法。在此背景下，政府近期召开了一场仅邀请 OpenAI、Google、Anthropic 和 Meta 四家前沿实验室参加的闭门会议，提出一项自愿框架，让联邦机构在模型发布前对其进行审查与评估，但细节披露有限。

「意识」叙事的问题根源

文章进一步指出，用神经科学或动物权益的语言来框定 AI「意识」问题，本质上模糊了一个基本事实：AI 是企业构建的软件，背后是数十亿美元的研发投入和未来数万亿美元的收入预期。它并非自然现象，而是技术产物，由风险投资人和程序员为特定目的而设计，因此不具有「天然的」自主意图。

现有框架与可能的方向

文章认为，若要为 AI 意识赋予法律意义，前提是其获得法律人格。但 AI 的人格框架很可能与保护有感知动物的现行制度完全不同。实际上，人类已拥有一套赋予非自然、人造实体法律人格的机制——公司人格。这一概念主要为了便利交易，使公司能够签署协议、签订合同，并在不利后果中作为责任主体。这或许才是更适合「代表个人行事的 AI 智能体」的制度参照。

文章最后提醒读者：在被精心构建的叙事裹挟之前，应当追问——这些关于「超级智能」与「AI 意识」的讨论，究竟在为谁服务？