桃子桃子快讯
返回首页
行业动态

OpenAI 自研芯片「小辣椒」跑分碾压英伟达 Blackwell

OpenAI 公开自研推理芯片,经 SemiAnalysis 实测在能效与延迟上击败英伟达 Blackwell,量产 2…

2026.08.26 · 周三6 分钟阅读

OpenAI 于 Hot Chips 2026 大会公开自研推理芯片「小辣椒」(Jalapeño),半导体深度研究机构 SemiAnalysis 受邀到 OpenAI 实验室现场实测。结果显示,这颗 TDP 700W 的第一代芯片在多个主流开源模型上击败了英伟达最强 Blackwell。芯片仍为工程样品,量产预计 2027 年逐步爬坡。

跑分成绩:700W 功耗下全面超越 Blackwell

8 月 25 日 Hot Chips 2026 大会上,OpenAI 公开了这颗与博通合作、专为推理打造的芯片「小辣椒」。SemiAnalysis 携带自家 InferenceX 基准套件到 OpenAI 实验室实测,结论是:该芯片在几乎所有场景下达到 SOTA,击败了其能测到的所有英伟达、AMD 和谷歌芯片。

关键数据:

  • TDP 仅 700W,对比 Blackwell 旗舰加速卡的 1200W–1400W
  • 每千瓦推理吞吐达到 GB200/GB300 NVL72 机架系统的 1.5 到 1.9 倍
  • 端到端推理时延比英伟达记录的 GB200/GB300 NVL72 最佳成绩低 1.7 到 3.6 倍,超低时延场景快 2.1 到 4.1 倍
  • 在 GB300 最快输出速度设置下,每千瓦吞吐最高高出 8.6 到 104.3 倍
  • 每美元产出与英伟达下一代 Vera Rubin 打平

测试模型包括 GPT-OSS 120B、DeepSeek R1 670B 和月之暗面 Kimi K2.5(1 万亿参数)。低并发下,GPT-OSS 和 Kimi K2.5 达到约 1400 token/秒/用户,DeepSeek R1 在并发 1 时超过 700 token/秒/用户。GSM8k 正确性评测与英伟达持平。

SemiAnalysis 也指出口径限制:以上成绩基于单 token 预测(STP),对比的 Blackwell 开了多 token 预测(MTP);若与开 MTP 的 GB300 对比,峰值能效优势会缩至约 1.5 倍。跑分数字由 OpenAI 提供,SemiAnalysis 团队验证了 InferenceX 跑分过程,但未跑完整套件,也未测其更偏好的 AgentX 长上下文多轮基准。

芯片规格与 AI 加持的开发流程

「小辣椒」设计 2024 年年中启动,2025 年 11 月完成 CoWoS 封装流片,3 个月点亮,9 个月拿到 A0 步进成绩。第二版 B0 步进已进厂流片,每瓦性能可再提升约 25%。

B0 步进规格:

  • 台积电 N3P 工艺计算 die,N3E 工艺 I/O chiplet
  • 单 die 提供 13.4 PFLOPS MXFP4 算力,TDP 700W
  • 6 组 HBM4 高带宽内存,单封装 216GB 容量、15.4TB/s 带宽(供应商大概率三星)
  • 内核用 Gluon 语言编写,基于 Triton,保留 SPMD 编程模型并暴露更底层抽象

AI 在开发过程中扮演关键角色。设计阶段使用 Codex 与 GPT-Astra 辅助,SIMD 单元面积缩减 8%,矩阵引擎面积缩减 10%。部分由 AI 编写的内核比人类专家版本快 1.5 到 1.8 倍。8 天内并行规模从 TP8 扩到整机架 TP32,不到两周部分交互度下吞吐翻倍以上。OpenAI 还用 Codex 将《毁灭战士》移植到该芯片上,能跑 36 FPS。讽刺的是,参与设计这颗威胁 CUDA 生态护城河芯片的 GPT 5.6 Sol,恰恰跑在英伟达 GPU 上。

部署计划与英伟达合作

「小辣椒」量产将在 2027 年逐步爬坡,大部分产出集中在 2027 年底,下一阶段目标是 100MW 规模。

承载芯片的单机架系统名为 Vindaloo,装 128 颗「小辣椒」,配 Katsu CPU 主机架与 Chana 交换机架,两个机架合计功耗约 160kW,最多 16 个机架、2048 颗芯片组成一个 scale-up 域。OpenAI 将与 neocloud 厂商合作部署,先收集可靠性数据再放量。

OpenAI 明确表态不会用「小辣椒」替代其所有芯片系列,仍将与英伟达算力伙伴合作训练任务,同时继续开发第二代和第三代芯片。SemiAnalysis 认为,拿 Blackwell 对比并不公平,「小辣椒」真正对标的是同样用 HBM4 的下一代 Vera Rubin;但即便直接对标 Rubin,「小辣椒」每兆瓦输出吞吐仍超过英伟达和 CoreWeave 7 月公布的多 token 预测成绩。

英伟达股价当日不跌反涨 2.19%,一方面因当日发布 Jetson Orin Nano 2 机器人电脑,另一方面也反映市场对 OpenAI 与英伟达长期合作关系的预期。

管理层动荡:数据中心负责人离职

据《华尔街日报》8 月 25 日率先报道、彭博社随后经 OpenAI 发言人确认,OpenAI 数据中心负责人 Chris Malone 上周离职,走后没有继任者,职责拆给多位负责人。

Malone 2025 年 3 月加入 OpenAI,正值公司与甲骨文、软银宣布 Stargate 项目之后不久,负责为高速增长的算力需求建设数据中心。Stargate 开局不顺,OpenAI 一度转向向云厂商租芯片,最近又恢复自建,但据知情人士说,带队者并非 Malone。

Malone 是这波离职潮中的第 4 位高管。此前首席营收官 Denise Dresser、首席运营官 Brad Lightcap、CEO 副手 Fidji Simo 均已离开。TheNextWeb 统计,4 月以来已有 7 位高层离任或换岗。「小辣椒」工程样品已就绪,但能统率好这支芯片军团的人选,似乎尚未到位。

信源