OpenAI 推出内部红队模型 GPT-Red，用于大规模发现提示词注入漏洞

OpenAI 近日通过官方 X 账号宣布推出内部自动化红队模型 GPT-Red，专门用于大规模发现自家模型中的提示词注入（prompt injection）漏洞，以便在更广泛部署前构建更强的防御能力。OpenAI 联合创始人 Greg Brockman 也同步转发了相关信息。

GPT-Red 的定位与目标

GPT-Red 被定位为一个「强大的红队测试者」。OpenAI 表示，其既有模型在面对 GPT-Red 发起的提示词注入攻击时表现出高度脆弱性。这意味着 GPT-Red 能够系统性地发现当前模型在安全层面的短板，为后续修复与防御提供明确目标。

对抗性训练 GPT-5.6

OpenAI 透露，已经将 GPT-Red 应用于 GPT-5.6 的对抗性训练流程中。通过让 GPT-5.6 持续面对 GPT-Red 发起的注入攻击，模型可以在训练阶段学习识别和抵御此类威胁，从而在最终部署时具备更强的鲁棒性。这种「以攻促防」的思路是将自动化红队纳入模型迭代流程的一次系统性实践。

对行业的参考意义

提示词注入长期以来被视为大模型应用层最棘手的安全挑战之一。OpenAI 公开 GPT-Red 的存在与思路，表明头部厂商正在把「自动化对抗性训练」纳入模型安全的标准流程。对于其他厂商而言，构建专门的攻击模型来系统性暴露防御短板，可能比单纯依赖人工红队更具效率，也更容易覆盖长尾攻击场景。

未披露的信息

目前 OpenAI 并未公开 GPT-Red 的具体架构、参数量、训练数据来源或攻击成功率等关键细节，也没有说明是否会将其开源或对外开放。可以确认的是，GPT-Red 仍属于内部工具，其价值最终体现在 GPT-5.6 等后续模型鲁棒性的提升上。