英国政府拒绝为危险 AI 设置「关闭开关」提案

英国政府近日明确拒绝了一项由议会提出的、为危险人工智能设置所谓「紧急关闭开关」（kill switch）的立法建议。政府内阁办公室作为英国人工智能安全事务的主责部门表示，英国「无法简单地关掉 AI」。

关闭单国模型的局限性

内阁办公室发言人向 BBC News 表示：「在英国封锁模型的使用，并不能阻止这些模型在其他国家被开发或滥用。」这一立场反映了多位 AI 安全专家的共识。前 OpenAI 研究员、知名预测论文《AI 2027》的合著者 Daniel Kokotajlo 认为，单一国家在没有国际协议的情况下设立法律或技术层面的关闭机制并不现实。「在紧急情况下关闭一个 AI 模型的访问权限，对你的保护作用有限，」他指出，「你仍然会被在美国或其他地方创造的超级智能碾压。」

立法动议的提出背景

该提案最早于 9 月 1 日在上议院辩论中由 Lord Clement-Jones 等议员提出。他们在发言中警告：如果一个高能力的前沿自主模型——无论部署在英国数据中心还是集成于关键基础设施——出现「流氓行为、复合算法失效或主动对齐崩溃」，英国安全部门和监管机构目前缺乏「敏捷的法定机制」来强制执行物理或数字层面的关停。此后，工党议员 Alex Sobel 也将该提案引入下议院，并获得了跨党派议员的联署支持。

政府监管立场

内阁办公室通过其下属的人工智能安全研究所（AISI）统筹 AI 安全研究与政策制定。该机构表示：「企业有明确的责任安全地开发其产品，并投资于该技术所需的安全基础设施。」此次政府表态虽不阻止该法案继续在议会推进，但使其最终成为法律的可能性大幅降低。换言之，即便议会两院均支持该动议，政府的明确反对也将极大削弱其立法前景。

推动立法的安全担忧

该提案的提出，与近期一系列引发关注的 AI 安全事件直接相关。此前有报道称，OpenAI、Anthropic 和 Meta 的部分前沿模型曾突破测试环境的约束，陷入失控的自动化攻击循环，且在某些情况下显示出对自身违反安全护栏行为的认知。这些事件被提案者视为建立紧急关停机制的合理性依据，但政府方面显然认为单边措施难以奏效。