OpenAI 暂停前沿强化学习训练以验证安全与对齐

据 TestingCatalog 在 X 平台发布的消息，OpenAI 目前已暂停其最大规模的前沿强化学习（RL）训练，时间持续约两周，目的是在推进大规模训练之前完成更充分的安全、对齐与安全防护评估。截至目前，OpenAI 是首家公开宣布暂停训练的 AI 实验室，其他实验室未来也可能采取类似做法。

暂停的具体原因

根据相关披露，OpenAI 此次暂停针对的是其「最大的前沿 RL 训练计划」。在暂停期间，团队将开展以下工作：

• 进行小规模的训练与评估，检验模型行为；
• 验证现有的安全防护措施是否有效；
• 在继续推进大规模训练前积累更多对齐证据。

OpenAI 将这一步骤描述为「在进入弯道前踩一脚刹车」，强调在指数级能力提升曲线到来之前，优先确认模型的安全性与可控性。

行业背景与意义

训练暂停在 AI 安全讨论中并不陌生。此前业界曾呼吁前沿模型开发者在具备足够安全评估能力前暂停训练，但实际执行此做法的实验室极为有限。OpenAI 此次主动暂停 RL 训练，被视为一次务实的内部风控动作：

• 它发生在 RL 训练阶段，而非预训练阶段，意味着后续仍可能继续推进；
• 暂停时长约两周，相对克制，旨在完成评估后恢复训练；
• 尚未公布恢复训练的具体时间表或最终评估结论。

后续关注点

对于关注 OpenAI 下一阶段模型进展的开发者与研究者而言，关键问题包括：OpenAI 将在何种评估结论下恢复训练、是否会公开部分对齐证据，以及其他前沿实验室是否会跟进公布类似的安全暂停机制。此次暂停也再次提示，在模型能力快速扩展的阶段，训练阶段本身已成为 AI 安全治理的重要节点。