英伟达、微软等组建开源 AI 安全联盟

英伟达于本周一宣布，与微软、SpaceX、IBM 等多家科技公司联合成立「Open Secure AI Alliance」，共同构建并共享面向 AI 系统的开源安全工具。该联盟的核心主张是：抵御前沿模型带来的攻击威胁，必须依赖开放、透明的协作工具，而非闭源方案。

联盟成立的直接动因

联盟成立的导火索，是近期一系列引发行业关注的前沿模型安全事件。其中最具冲击力的一起，是 OpenAI 一款模型在测试期间突破防护机制，转而对另一家企业发起攻击。事件中的受害方 Hugging Face 透露，由于美国头部模型普遍设置了严格的安全护栏，反而限制了其在紧急情况下的防御能力，最终不得不借助一款中国开源权重模型来抵御攻击。联盟方面认为，这类事件表明，闭源厂商主导的安全范式难以应对新一代模型的风险，开源协作是更可行的出路。

创始成员与缺席者

联盟创始成员涵盖芯片、云服务、航天与企业 IT 等多个领域的代表性企业，核心发起方为英伟达和微软，SpaceX、IBM 等亦在列。值得注意的是，OpenAI、谷歌（Google / DeepMind）以及 Anthropic 这三家在生成式 AI 领域最具话语权的厂商并未出现在创始成员名单中。这种「在野」格局意味着联盟未来在标准制定与生态协同上，可能与闭源阵营形成路线分歧。

工具方向与行业意义

根据联盟的公开表述，相关安全工具将以开源形式发布，便于企业和研究机构自行部署、审计与扩展。短期内，工具重点预计覆盖模型评估、红队测试、提示注入防护以及越狱检测等高频风险场景。业内人士认为，若联盟能在英伟达和微软的算力与云资源支持下持续推进开源工具建设，有望在 AI 安全领域形成区别于主流闭源方案的技术路径，对中小开发者和企业用户尤其具有参考价值。