英伟达开源 Nemotron 3.5 Lightning，押注多模型协同

美国当地时间 8 月 11 日，英伟达正式发布开源大模型 Nemotron 3.5 Lightning，并同步推出开源模型路由库 NeMo Switchyard。这是英伟达 CEO 黄仁勋 7 月底公开表态支持开源之后，公司在开源方向上的首批具体动作。

两款组件均以开源形式开放：企业可免费下载、使用并修改 Nemotron 3.5 Lightning，无需获得英伟达许可，也不需支付费用。英伟达方面表示，将在与第三方协议允许的范围内同步发布训练数据与训练技术，并发布用于进一步训练编码智能体的数据集 Nemotron-RL-Agentic-Terminal-Pivot。

面向智能体高频任务的 300 亿参数 MoE

Nemotron 3.5 Lightning 是一款 300 亿参数的混合专家（MoE）模型，并非面向通用聊天场景，而是针对长期运行的智能体（agent）所承担的高频执行类任务，包括代码审查、工具调用、安全告警监控、账单问答等。

英伟达给出的官方数据包括：

输出速度最高可达同类模型的 4 倍；
在智能体任务上完成速度较此前提升约 30%；
与单独使用 Opus 4.8 相比，在保持前沿水平准确性的前提下，任务成本可降至近三分之一。

在英伟达自研的智能体任务评测基准 PinchBench 上，Nemotron 3.5 Lightning 在匹配 Qwen 3.6-35B 准确率的同时，完成任务速度快约 30%；在相近完成时间下，准确率高于 Gemma 4-26B。不过，从通用能力看，Nemotron 3.5 Lightning 并不是当前最高水平模型。在第三方测评机构 Artificial Analysis 的 Intelligence Index 上，覆盖 9 项评估得分为 24，与 gpt-oss-120b 持平，低于更大的模型。

部署层面，Nemotron 3.5 Lightning 支持 RTX PC、DGX Spark、DGX Station、Jetson，也可扩展到 RTX PRO 工作站、数据中心与云端。

NeMo Switchyard：为多模型系统装上「调度员」

当企业同时拥有多个模型后，如何在成本、延迟与准确率之间做权衡，成为新的工程问题。NeMo Switchyard 即针对这一场景设计：它是一套开源的模型路由库，可根据任务需求在不同模型之间做选择，开发者可基于准确率、延迟与成本设置路由策略，也可按业务自定义逻辑。

英伟达企业生成式 AI 软件副总裁 Kari Briski 介绍，Switchyard 可根据智能体当前状态动态选择模型，任务启动前并不预先指定由哪个模型处理哪类任务；同时，Token 成本也被纳入选择过程，系统会预估不同模型完成任务可能产生的 Token 数，再据此挑选更合适的模型。

英伟达公布的部分企业测试结果如下：

LangChain：在 145 个多轮 DeepAgents 任务中，仅将 7% 的调用交给前沿模型，准确率降低 6%，成本下降 74%。
Ramp：在 RampSWE-Bench 上取得与前沿模型相当的性能，成本降低 58%，运行时间减少 33%。
Cognition：在 Devin Desktop 中集成 Switchyard，平均成本较全部使用单一前沿模型低 28%。
Boomi：在 5 项路由能力测试中实现 100% 领域路由准确率，59% 流量发送给速度快 5 倍的微调模型，后续轮次延迟降低 21%。

这些数据指向同一个判断：企业级 AI 的竞争重点，正从「拥有最强模型」转向「让多个模型更高效地协同」。

更大模型在路上，Nemotron 4 瞄准万亿参数

在推出 Nemotron 3.5 Lightning 的同时，英伟达仍在推进更大规模的开源项目 Nemotron 4。据 The Information 援引知情人士，参与项目的员工预计，最大的 Nemotron 4 模型将至少拥有 1 万亿参数，约为目前英伟达最大模型 Nemotron 3 Ultra 的两倍。不过，Nemotron 4 仍处于开发阶段，具体规格与发布日期尚未确定，大规模训练预计仍需数月时间。

围绕 Nemotron 项目，英伟达已与 Reflection、Cursor、Thinking Machines、Mistral、Prime Intellect 等公司展开合作，覆盖训练数据、评估支持、模型设计与模拟环境等环节。截至今年 4 月，英伟达多年期云服务承诺规模已扩大至 280 亿美元，覆盖至 2031 年初。这些投入并非全部用于 Nemotron 训练，但显示出英伟达正在为下一阶段 AI 竞争提前储备基础设施。

开源是手段，扩大基础设施市场才是目的

英伟达此时加码开源，并非简单加入大模型竞赛。黄仁勋在 7 月底首次公开支持开源模型时表示，开源模型能够帮助企业更好地掌握自己的 AI 未来，同时推动竞争并降低成本；随后在 Axios 采访中又称「免费 AI 对硬件和芯片应是好事」。

对于英伟达而言，开源 Nemotron 的核心价值，并不是让 Nemotron 取代所有商业模型，而是让更多企业能够获得、修改并部署 AI 模型，从而推动更多企业进入 AI 开发与应用阶段。企业使用 AI 越广泛，对训练、推理与部署计算资源的需求就越大。

从芯片供应商到 AI 基础设施提供者，英伟达正在推动自己的角色升级。与 OpenAI、Anthropic 等公司主要围绕「打造最强模型」展开竞争不同，英伟达更希望成为连接模型、工具、计算与开发者生态的平台。这也是 Nemotron 3.5 Lightning 与 NeMo Switchyard 同期推出的更深层逻辑。