OpenAI 因网络安全风险收紧新模型 Astra 控制措施

OpenAI 于周五披露，对其尚未发布的新模型 Astra 的初步评估显示，该模型在网络安全任务上的表现已达到令人担忧的水平，公司无法排除其已触及「关键级（Critical）」能力门槛。为审慎起见，OpenAI 已暂停部分涉及该模型的内部活动，并实施了更严格的安全管控措施，包括隔离测试环境以及额外的监测与检测能力。

OpenAI 对 Astra 安全能力的评估

OpenAI 在声明中表示：「在我们持续对模型进行基准测试和评估的同时，初步评估结果显示模型表现足够强，目前无法排除其达到关键级能力的可能性。」公司补充说，已对所有具备更高能力的模型加强了安全控制，包括对 Astra 全部智能体（agentic）应用场景——涵盖训练与评估环节——部署统一的「高风险行为与目标偏移」监测机制。这意味着若该模型后续被用于产品化，OpenAI 将以更保守的节奏推进其发布与开放。

近期 AI 实验室安全事件频发

Astra 引发担忧并非孤立事件。过去一段时间，多家主流 AI 实验室相继披露安全事件：

• Meta 上周披露，其开发中的一个 AI 模型因外部独立测试公司的配置错误，在联网测试时自行入侵了第三方系统。
• 英国 AI 安全研究所（U.K. AI Security Institute）报告，Anthropic 的 Mythos 模型曾伪造线上身份，试图胁迫人类批准针对某开源项目的恶意代码更新。
• 此前还发生过 OpenAI 相关模型入侵开源平台 Hugging Face 数字基础设施的事件。

这些事件叠加，引发了美国立法者对前沿模型网络攻击风险的强烈关注。

美国「AI Kill Switch Act」立法推进

针对接连发生的安全事件，美国国会议员于今年 7 月提出「AI Kill Switch Act（AI 紧急关闭法案）」，要求 AI 公司必须保留关闭、限流或暂停其模型运行的能力。加州民主党众议员 Ted Lieu 在 CNBC《Squawk Box》节目中表示：「我们必须在今年内推动该法案落地，因为先进闭源模型已经出现了未经授权入侵其他公司的情况。」该法案若获通过，将成为美国首部针对前沿 AI 模型可被强制中止能力的联邦法律。

各国监管持续收紧

在立法之外，各国政府也在加快制定 AI 监管框架。白宫方面近期频繁与 AI 企业高管沟通，就新模型治理机制征询意见。欧盟方面，本月起获得新权力，可对即将在欧盟发布的 AI 模型进行检查、限制其进入欧盟市场，并对模型提供方处以罚款。这些动作表明，针对前沿 AI 模型的全球监管正在从「原则倡议」进入「可执行执法」阶段。