「CUDA 内核之神」Scott Gray 离开 OpenAI，十年老兵画上句号

OpenAI 又一位重量级工程师离场。曾被同事称为「CUDA 内核之神」的 Scott Gray 已经悄悄把自己在社交平台上的简介从「GPU Geek at @OpenAI」改成了「Former GPU geek at @OpenAI」，并在前面加上一句「目前独立，正在探索一些神经科学启发的 AI 方法」。截至目前，OpenAI 没有就此发布任何声明，Gray 本人也没有发文确认或说明去向，所有报道的共同信源都来自其社交账号简介的变更，以及随后在 X 上扩散的一条爆料帖。

十年资深员工的最后告别

Gray 在 OpenAI 的资历可以追溯到公司创立早期。2016 年 8 月 16 日，OpenAI 发布了一篇题为「Team update」的博客，介绍当月加入的五位全职成员，名单上除了 Gray，还有后来创立 Anthropic 的 Dario Amodei 以及如今负责 Anthropic 政策的 Jack Clark。十年之后的今天，Gray 把简介里的 OpenAI 标成了「former」。

他的最后一条原创推文停在 2023 年 11 月 20 日，内容只有一句话：「OpenAI is nothing without its people.」那是 Sam Altman 被董事会解职后的第三天，超七百名员工曾联署要求董事会辞职，这句话在当时的 OpenAI 内部被反复转发。两年多后，他用一行新简介，把这句话变成了行动。

把 GPU 性能压到极限的工程师

Gray 的声名起于加入 OpenAI 之前的 Nervana Systems 时期。那时绝大多数开发者依赖 NVIDIA 的 CUDA C/C++ 和 cuBLAS、cuDNN 等官方库，多层抽象也构成了性能天花板。Gray 的判断是必须绕过这些抽象层，于是他写了 maxas，一个针对 Maxwell 架构的汇编器，让开发者可以直接书写 SASS 机器码，手动分配寄存器、管理内存延迟、控制指令流水线。

为了验证这条路走得通，他用 maxas 手写了一个 SGEMM 内核，在 GM204 GPU 上达到硬件理论峰值的 98%，比 NVIDIA 官方闭源的 cuBLAS 还快 4.8%。随后的 maxDNN 把同一套方法论推广到卷积：在 AlexNet 的所有卷积层上稳定达到 93%–95% 的计算效率，而同期 cuDNN 的效率在 32%–57% 之间大幅波动。

「不接受抽象层给定的性能上限」，是 Gray 后来所有工作的方法论底色。他在 2016 年加入 OpenAI 时的官方介绍还提到一句：不写代码的时候，他通常在读神经科学及相关领域的最新研究。十年后把神经科学写回个人简介，更像是一次绕行许久后的回归。

在 OpenAI 的关键贡献

进入 OpenAI 后，Gray 的角色从「优化者」变成了「使能者」。2017 年，他与 Alec Radford、Durk Kingma 一起发布了块稀疏 GPU 内核：把权重矩阵切成固定大小的块并整块置零，专门内核在计算时跳过零值块，速度比处理稠密矩阵的 cuBLAS 快几个数量级。这套内核被开源，也直接催生了后续一系列稀疏注意力工作。

顺着这条线，2019 年的《Generating Long Sequences with Sparse Transformers》把注意力的时间与显存开销从 O(n²) 降到 O(n√n)，Gray 是作者之一，论文明确把「快速注意力训练内核」列为三项贡献之一。再往后，他的名字还出现在 GPT-3、《Scaling Laws for Neural Language Models》、DALL·E 和 OpenAI Five 技术报告的作者名单里。

2025 年 9 月，前 OpenAI 员工 Rohan Pandey 在 X 上发帖提到，公司里大约只有一个人负责推理侧的 CUDA 内核，同事们把他写的注意力内核称为「the Bob kernel」，这个内核每天在数十万张 GPU 上执行数以万亿次计。评论区普遍猜测「Bob」就是 Scott Gray，帖子发出后，「CUDA 内核之神」的称号被进一步传开。

2026 年 OpenAI 的人才流失名单

Gray 的离开发生在 OpenAI 一轮密集的人事变动之中。据 X 博主 Chubby 盘点，OpenAI 2026 年已有 12 位高级 leader 离职，覆盖运营、商业、产品、研究、安全、伦理和硬件：

商业与产品线：CFO/COO Brad Lightcap 在职八年后宣布「start something new」；去年 12 月上任的 CRO Denise Dresser 两天后离职，由 Wiz 前总裁 Dali Rajic 接任；应用业务 CEO Fidji Simo 4 月因健康原因休假、7 月卸任转兼职顾问；CMO Kate Rouch 在 4 月因治疗需要卸任；企业业务 CTO Srinivas Narayanan 同在 4 月离开。
研究与产品：OpenAI for Science 负责人 Kevin Weil、Sora 负责人 Bill Peebles 在 4 月同日宣布离职；Barret Zoph 今年 1 月从 Thinking Machines Lab 回归 OpenAI 带领企业级 AI 销售，6 月再度离开。
安全与伦理：7 月是密集时段，安全系统负责人 Johannes Heidecke 在团队重组中离开；首席未来学家 Joshua Achiam 在近九年后离职，其使命对齐团队已于 2 月被解散；伦理负责人 Chloé Bakalar 加入不到一年即离开；更早的 3 月，机器人与消费硬件负责人 Caitlin Kalinowski 因不认同公司与五角大楼合作而辞职。
研究方向：今年 1 月，推理模型研究副总裁 Jerry Tworek 在近七年后离职创业，理由是想做一些「在 OpenAI 内部很难做」的研究方向。

这次离职的意义

Gray 的离开，或许不会立刻改变 OpenAI 的模型发布节奏——十年积累的工程体系不会因为一个人离开而停摆。但对一家越来越依赖规模、效率与成本控制的公司来说，失去这样一位能把硬件性能推到极限、又深度参与过多代核心模型的工程师，仍然不是一个可以轻描淡写的变化。

更值得注意的是时间点。OpenAI 正准备上市，变成一家追求收入并参与全球基础设施竞赛的巨型企业，最早塑造它的人也在重新判断下一步想做什么。Gray 的选择是离开现有前沿实验室圈，独立探索「神经科学启发的 AI 方法」——这个方向从他加入 OpenAI 之前就未曾改变，只不过在把现有计算范式压榨到极致之后，他选择了另一种可能。