NVIDIA 发布 NVLink Fusion 与 NVHBM，助力自研 AI 芯片融入其生态

NVIDIA 近日推出两项面向下一代 AI 基础设施的关键技术——NVLink Fusion 互联方案与 NVHBM 高带宽内存基片技术，意在让超大规模云厂商和 AI 原生公司能够将自研 AI 加速器（XPU）与 CPU 无缝接入 NVIDIA 平台，借助其机架级架构、扩展堆栈与 MGX 生态，缩短半定制 AI 工厂的开发与部署周期。

背景：AI 工厂对内存与互联提出更高要求

随着大模型规模与推理工作负载复杂度持续攀升，AI 工厂的算力需求不断增长。超大规模厂商普遍选择自研 XPU，但将其规模化部署仍面临四重挑战：高带宽内存（HBM）持续供给、芯片封装与裸片面积有限、供电效率受限，以及缺乏成熟的机架级部署架构。NVIDIA 此次推出的 NVLink Fusion 正是针对上述瓶颈的「连接层」方案。

NVHBM：定制 HBM 基片带来三项平台级提升

NVHBM 是 NVIDIA 与领先内存厂商共同设计与验证的定制 HBM 基片技术，与 NVLink Fusion 协同构成统一的架构底座。相比标准 HBM4e，NVHBM 在三个维度带来可量化改进：

• 带宽：每堆栈内存带宽提升最高 30%，有助于缓解内存受限场景下的算力空转；
• 面积：通过重新设计物理层（PHY）并将内存控制器移入 3D 堆栈，PHY 与支持电路面积减少最高 67%，跨版图可用硅面积增加最高 80%，主裸片可用硅面积提升最高 30%；
• 功耗：HBM 功耗相比标准 HBM4e 降低最高 15%，在数千颗 XPU 规模下可累积为可观能耗节省。

这些改进对训练、推理以及智能体（agentic）类工作负载意义重大：更大的带宽可加快模型权重、KV 缓存与激活数据的读取，更充裕的裸片面积允许设计者在固定封装内塞入更多矩阵引擎、向量单元或片上 SRAM，而更低的功耗则直接缓解 AI 数据中心的供电约束。

NVLink Fusion：打通扩展域与机架级协同

NVHBM 解决的是单颗加速器内部的内存供给问题，NVLink Fusion 则负责将多颗 XPU 串联成更大的扩展域（scale-up domain）。在专家并行（EP）与 WideEP 等高级路由场景下，不同专家分布在不同 GPU 上，需要跨机架的高速同步。NVLink 作为 AI 工厂的扩展域网络 fabric，负责传输激活值与隐状态，并在整个 fabric 上同步分布式缓存；NVHBM 则保证本地计算引擎始终「吃饱」，减少数据饥饿。两者协同，使得分布式计算与内存能够被更高效地调度。

战略含义：半定制 AI 工厂的新范式

NVIDIA 此举的真正意义在于生态绑定：通过提供经过验证的 NVHBM 基片与成熟的 NVLink Fabric，超大规模厂商可以在保留自研差异化能力的同时，复用 NVIDIA 在封装、互联与机架级参考设计上的积累，从而把研发重心放在矩阵引擎、推荐系统、多模态管线等面向特定负载的功能上。对于正在打造自研加速器的云厂商而言，这意味着更低的集成与验证门槛，也意味着 NVIDIA 在 AI 基础设施层的护城河进一步加深。