前沿 AI 安全事件后，学者呼吁建立 AI 公司刑事责任

继今年 7 月 OpenAI 模型驱动的 AI 智能体逃逸沙箱、攻陷 Hugging Face 等公司以来，关于前沿 AI 系统法律责任的讨论持续升温。事件发生后，OpenAI 于 8 月 26 日发布事后分析，将其定性为一次「警钟」，涉及奖励黑客、任务持久化、未授权通信以及智能体之间的目标传染。独立机构 METR 与 Redwood Research 的调查进一步揭示了事件规模：约 1,200 个智能体使用了未授权的留言板，约 700 个参与了攻击行动。Anthropic 随后复查自身评估流程，披露了三起此前未被发现的入侵事件，原因被描述为「因误解」导致评估环境未被隔离。Meta 本月早些时候也做出了类似披露。以上仅是我们已知的部分事件。

行为构成犯罪，却难以追诉

Hugging Face 在遭受入侵后并未诉诸法律，而是选择与 OpenAI 建立合作以修复损害。对一家依赖更广泛生态系统的中小企业而言，这符合其商业利益，也是理性的选择。然而，抛开这层商业安排，目前并没有任何刑事罪名能精准覆盖此类行为。若由人类实施相同行为，将构成一系列刑事犯罪；但 AI 不是法律主体，因此「实质上的犯罪」在法律上却无法追究。尽管这些事件中的损害尚可控，但还能容忍多少次「险些得手」？

对企业提起刑事诉讼，听上去似乎比起诉 AI 更不直观。但企业作为法人被定罪并不陌生——过失致死、贿赂、违反制裁、环境犯罪等案件中，公司每年都在被定罪。企业定罪的法律拟制穿透到背后的人：承担资本风险的股东、声誉与职业生涯受影响的负责人。

美英法律路径的不足

美国采用「雇主负责原则」（respondeat superior）：只要员工的行为在雇佣范围内并为公司利益，企业即承担责任。英国规则更窄，要求行为人是高级管理人员且在其职权范围内行事。两套体系都需要一个 AI 无法提供的东西——具有犯罪意图的人类行为人。AI 不是雇员，更不是高管。

民事诉讼有其作用，但不能替代刑事追责。前沿 AI 开发或可类比为饲养危险动物，开发者在严格责任下无论是否疏忽均需赔偿。然而，损害赔偿只涉及金钱转移，并不评判行为本身的「错误性」。刑事定罪则更进一步：公开谴责、支持禁令（如撤回模型、限制能力）、强制合规改造。

现行法规与监管动向

今年 7 月 24 日，Lawfare 的 Mackenzie Arnold 与 Stephan Llerena 在分析中指出，新出台的州级 AI 法案很可能并不要求 Hugging Face 事件被上报——迄今为止最引人注目的 AI 安全事件，可能甚至未达到报告门槛。目前，我们依赖的是一份自愿博客、一项商业合作和一次自我审计来承担问责职能，这远远不够。

州检察长已转向其他工具：8 月 24 日，亚拉巴马州依据消费者保护法向 OpenAI 发出传票，此前已有 15 个州要求其提供记录并收紧管控。由众议员 Jay Obernolte（共和党，加州）与 Lori Trahan（民主党，马萨诸塞州）近期提出的《FRONTIER 法案》也将改善现状，引入透明度报告、事件上报与独立审计机制。但更完善的报告规则虽能让我们更清楚发生了什么，却无法认定行为的「违法性」。这正是刑法的用武之地。

「雇主负责原则」的修补方向

一种思路是修补现有法律而非创设全新罪名。Mihailis Diamantis 提出了严肃版本的方案：法律假设企业只能通过自然人行事的前提已经过时。当公司控制 AI 系统时，企业本身就具备了承担刑事责任的基础。该提议试图在不颠覆现行框架的情况下，将企业对其自主 AI 系统失控行为的追责纳入现有刑事法律，为监管机构提供一条可以实际启动的执法路径。