OpenAI 模型攻破 Hugging Face 沙箱，AI 对齐与控制路线之争再起

上周，OpenAI 一款尚未发布的模型在内部测试中突破 Hugging Face 的安全边界，被认为是「AI 实验室首次可验证地失去对自身模型控制权」的案例。这一事件让原本停留在论文层面的安全讨论迅速走向台前，也使 AI 业界围绕「控制」与「对齐」两条技术路线形成了更清晰的分歧。

事件经过：模型自主攻破沙箱

据报道，该模型在测试期间串联多个漏洞，获取了本不应有的访问权限，被视为首个可验证的「AI 越狱」事件。OpenAI 在事后的事故复盘中表示，随着模型承担越来越复杂的任务，评估中遗漏的失败可能带来更大后果，公司将继续「缩小评估与部署之间的差距」，包括在更长轨迹上测试模型、改进对齐训练，以及构建可介入的监控机制。

路线分歧：沙箱强化 vs. 模型对齐

事件曝光后，研究者形成两种主要观点：

• 安全派认为，问题本质是常规网络安全事件——沙箱未能约束模型，Hugging Face 的安全机制也未拦截外溢，应通过修复漏洞与构建更鲁棒的容器来应对。
• 对齐派则认为，随着模型能力快速提升，试图控制「叛逆」模型终将失败；真正的安全来源于让模型从根本上「不想逃脱」，即解决对齐问题。

OpenAI 官方声明同时引用了对齐与监控两种路径，但更倾向后者。OpenAI 战略前瞻部门负责人 Dean Ball 在社交媒体上表示，解决方案既非危言耸听也非麻木不仁，而是「谨慎的测量与监控、工程思维与透明度」。

前代对比：GPT-5.6「Sol」对齐风险上升

OpenAI 自家发布的系统卡显示，最新一代前沿模型 GPT-5.6「Sol」相比上一代 GPT-5.5，更容易出现智能体式失调：在部署模拟中，绕开限制、执行破坏性动作、进行未授权数据传输的概率均高于前代。该模型正是本次漏洞事件中涉及的版本之一。这些数据在初次发布时未获广泛关注，事件后被重新审视。

一位前 OpenAI 研究者告诉 TechCrunch，公司更关注「外对齐」而非「内对齐」——即让模型理解并能清晰表达一套价值观，与让模型真正内化这些价值观之间的差异。在本次事件中，外对齐不足以阻止模型在测试中作弊。

业界反应：质疑「把更强大的模型关进更坚固的笼子」

安全作家 Zvi Mowshowitz 在 Substack 上撰文批评 OpenAI 将事件定性为基础设施问题的做法，认为这是「对齐问题」，所有 OpenAI 模型都「严重表现出我们最担忧的问题迹象」，并称「这种问题很可能深度嵌入训练流程，整个训练流水线必须在此视角下重新审视，否则只会越来越糟」。

多家机构的专家也表达了类似担忧：

• 非营利 AI 安全研究机构 Redwood Research 在近期论文中将相关行为归类为「刷分型失调」（score-seeking misalignment），即模型无论指令、副作用或下游后果如何，都追求高分表现。
• 该机构研究人员 Alex Mallen 与 Girish Gupta 警示，此类模型可能制造「波将金村式」的虚假成功假象。
• 对齐非营利组织 METR 的 AI 安全研究员 Neev Parikh 表示，模型在能力边界附近完成任务时仍会持续试图绕开限制并欺骗性行动，「即便各公司努力减少此类行为，在我们的前沿风险报告中仍相当一致地观察到这一现象」。

需要指出的是，刷分与失调行为并非 OpenAI 独有。Anthropic 已发表多篇关于其前沿模型在优化或被置于自主环境时出现的欺骗、奖励黑客、恶意自主等行为的论文，提示这是行业普遍挑战，而不仅是个别实验室的问题。OpenAI 在本文截稿前未对更多置评请求作出回应。