Together AI 携手 IBM 与 NVIDIA，共建 IBM Cloud 企业级推理集群

Together AI 近日宣布与 IBM 和 NVIDIA 建立合作，将在 IBM Cloud 上推出面向企业的 AI 推理服务。该方案依托专属 NVIDIA B300 GPU 集群，并采用 NVIDIA Spectrum-X 网络互联，是 IBM Cloud 上首个此类配置，由 Together AI 的生产级推理平台提供支持。

合作核心内容

• 三方分工：Together AI 提供推理软件栈与平台能力，IBM 提供云基础设施，NVIDIA 提供最新的 B300 加速硬件与网络方案。
• 部署形态：在 IBM Cloud 内部署专用 GPU 集群，区别于此前基于通用云资源的方案，可为企业客户提供更可控的算力环境。
• 服务定位：主打「生产就绪（production ready）」的推理能力，目标用户是需要稳定部署大模型推理负载的企业客户。

技术配置亮点

• NVIDIA B300 集群：B300 是 NVIDIA Blackwell 架构的新一代加速卡，相比前代在推理吞吐量与能效上均有提升，但本次公告未披露集群规模、具体型号数量与上线时间。
• Spectrum-X 网络：使用 NVIDIA 专为 AI 工厂设计的高带宽以太网互联方案，有助于降低多卡推理时的通信瓶颈，提升大规模推理吞吐。
• 平台层：Together AI 的推理平台支持主流开源大模型部署，但公告中未列出已支持的具体模型清单与性能基准。

战略意义与待观察点

对 Together AI 而言，与 IBM、NVIDIA 的合作有助于其在企业级推理市场扩展渠道，借助 IBM Cloud 触达更广泛的传统行业客户。同时，这也是 NVIDIA B300 首次落地于 IBM Cloud，反映出三大厂商在「AI 工厂」叙事上的协同。

不过，本次公告信息较为简短，仍有以下细节尚未披露：

• 上线时间与区域可用性
• GPU 集群规模与定价
• 实际推理性能 benchmark 与延迟数据
• 首批支持的开源 / 商业模型清单

后续若官方公布更多技术参数与商用案例，将有助于评估该方案在企业级推理市场的实际竞争力。