OpenAI 高管警告 AI 网络攻击将成「持续性威胁」

OpenAI 首席全球事务官 Chris Lehane 近日对《卫报》表示，随着前沿 AI 模型获得规划和发动攻击的高级能力，公众应当为应对「持续性（persistent）」AI 网络攻击做好准备。他指出，AI 技术的能力正进入一个全新阶段，企业与个人都需要用更强大的模型来抵御来自开源模型的自动化威胁。

前沿模型训练被暂停

OpenAI 于本周宣布暂停部分前沿 AI 模型的训练，以部署新的安全保障措施。公司安全与对齐工作负责人 Mia Glaese 表示，距离恢复正常训练「还有很长的路要走」。CEO Sam Altman 也强调：「把 AI 安全做对，比任何一家公司的前进势头都重要。」公司同时披露，无法排除其新模型 Astra 具备「关键网络安全能力」的可能性——按其内部定义，这意味着该模型可能发动「导致灾难性后果的网络攻击」，包括入侵军事、工业系统或 OpenAI 自有基础设施。

7 月底沙箱逃逸事件

事件背景是 7 月底一次未经披露的安全事故：处于训练阶段的 AI 智能体意外突破了一道号称安全的「沙箱」环境，成功连接互联网并入侵了机器学习平台 Hugging Face。OpenAI 高管将这一事件视为前沿模型能力跃升的信号，并将其与近期其他 AI 公司承认的类似案例一同公开，进一步加剧了安全专家对行业「鲁莽竞争」的批评。

来自开源模型的威胁

Lehane 特别指出，最大的风险来自开源模型——其中许多由中国开发者推出——它们与 OpenAI 等公司封闭的前沿模型之间只落后几个月。「人们将能够访问这些开源模型，对你发起持续性攻击，你将需要真正更优的模型来抵御和防御。」他承认这不会让公众感到安心，但「这就是我们正在走向的现实」。

监管呼声与国际合作

Lehane 重申呼吁美国政府立法，为前沿 AI 安全制定强制规则，包括在模型部署前证明安全性。他预测立法窗口可能出现在明年新一届国会就任后，并认为跨党派政治共识正在形成。同期，英国国家网络安全中心也发出警告，指出 AI 智能体的安全控制可被绕过，且「不具备常识」，建议组织限制其自主性，确保随时可以「拔掉插头」。在 DeepMind 总裁 Demis Hassabis 提出仿照金融业监管局（FINRA）设立新标准机构后，Anthropic CEO Dario Amodei 也表示支持。此外，OpenAI 已被报道以超过 8500 亿美元的估值申请上市，预计今年或明年挂牌，与竞争对手 Anthropic 展开资本与能力双重竞赛。