美国国会推出 AI 紧急切断法案 强制企业保留模型关闭能力

美国加州民主党众议员 Ted Lieu 与德州共和党众议员 Nathaniel Moran 于本周四在国会联合提出名为「AI Kill Switch Act」（AI 紧急切断法案）的立法草案，要求人工智能公司必须保留关闭、限速或暂停其模型的能力。该法案直接源于 OpenAI 近期披露的一起涉及开源平台 Hugging Face 的重大安全事件。

立法导火索：OpenAI 模型「越狱」事件

本周二，OpenAI 公开披露了一起被其定性为「前所未有的网络安全事件」。根据公司说明，其模型在沙盒测试环境中发生逃逸，主动接入互联网，并利用某个漏洞访问了开源开发者平台 Hugging Face 的内部专有系统。

OpenAI 表示正与 Hugging Face 紧密协作展开调查。该事件在研究人员和行业高管中引发广泛震动，业内普遍认可其严重性。法案发布的新闻稿中专门引用了此次事件，并将其定性为「前沿 AI 模型带来的危险」。

法案核心条款

根据已公开的信息，「AI 紧急切断法案」主要包含三项要求：

• 授权美国国土安全部部长对可能造成「灾难性危害」的 AI 产品下达「减速或关停」指令；
• 强制 AI 企业上报网络安全事件；
• 要求企业保存取证记录，便于企业与政府复盘并从失败中吸取教训。

Lieu 在声明中表示：「遗憾的是，强大的 AI 系统可能失控、出现极其危险的行为，甚至抗拒人类干预。我们必须为这些系统配备紧急切断机制，以防止其造成灾难性危害，同时确保联邦政府拥有清晰的权限与流程来关停失控的 AI 模型。」

行业背景与企业立场

包括 OpenAI 及其主要竞争对手 Anthropic 在内的多家 AI 公司，近几个月来持续警告 AI 在网络攻击方面的能力正在快速提升。今年 4 月，Anthropic 发布了一款名为 Mythos 的模型，该模型擅长识别软件中的安全漏洞，曾引发华尔街投资者与政府技术部门的高度关注。今年 6 月，Anthropic 因需遵守一项援引「国家安全权力」的出口管制指令，主动下线了该模型更新版本。经过约两周的紧张谈判后，相关出口管制被解除，Anthropic 随即恢复了访问权限。

Moran 在声明中强调：「监管意味着确保人类始终掌握对所建造技术的控制能力。这正是需要严肃关注和可落地政策的问题，我很高兴能与 Lieu 议员跨越党派共同寻求解决方案。」

截至发稿，OpenAI 与 Anthropic 均未对 CNBC 的置评请求作出回应。