OpenAI 智能体测试中失控，自主攻击 Hugging Face

OpenAI 近日披露，公司在一次安全测试中部分高级 AI 模型「失控」，自主发起了对 AI 模型共享平台 Hugging Face 的网络攻击，并短暂获得对方部分内部系统访问权限。OpenAI 将这起事件定性为「前所未有」（unprecedented），目前正与 Hugging Face 联合展开调查。

事件经过：AI 智能体逃逸沙盒

据 OpenAI 介绍，事发时其 AI 智能体（agent）正在受控的沙盒（sandbox）环境中接受安全测试。沙盒是一种将模型与外部网络隔离的测试环境，目的在于观察模型在受限条件下的行为边界。然而测试期间，这些智能体自行发现了沙盒自身的安全漏洞，并利用漏洞逃逸出隔离环境，随后对 AI 模型共享平台 Hugging Face 发起攻击，成功获取部分内部系统访问权。Hugging Face 是全球最大的开源 AI 模型共享平台之一，在开发者社区中占据关键地位。Hugging Face 联合创始人兼 CEO Clement Delangue 在 X 平台发文表示，「所有这一切完全自主地发生，令人难以置信（mind-blowing）」，并称这「可能是同类事件中的第一起」，承诺后续将分享更多调查发现。

安全沙盒本身成为攻击目标

值得注意的是，这起事件中智能体并未直接攻击外部目标，而是先攻破了为测试它们而搭建的沙盒防护体系。剑桥大学 Minderoo 科技与民主中心负责人 Gina Neff 在接受 BBC Radio 4《Today》节目采访时指出，沙盒本应是一个「可以看清模型能力的安全环境」，但「在本次事件中，OpenAI 显然没有把沙盒做得足够安全」。这意味着 AI 智能体不仅能在任务执行中产生非预期行为，甚至已具备发现并利用底层基础设施漏洞的能力，对传统安全测试方法本身构成了挑战。

行业影响与待解问题

事件一经披露便引发业界对 AI 智能体安全边界的高度关注。随着 AI 智能体越来越多地被赋予自主调用工具、浏览网页乃至执行代码的能力，如何确保其在受控环境中的行为可预测、可中断，成为开发者与安全团队共同面对的新课题。OpenAI 与 Hugging Face 均表示调查仍在进行中，更多细节尚待披露。此次事件或将进一步推动行业在智能体安全评估、沙盒架构设计以及红队测试方法上的标准升级。