桃子桃子快讯
返回首页
开源

月之暗面开源 MoonEP,面向 MoE 分布式训练的高性能通信库

Kimi 团队月之暗面在 X 平台宣布开源 MoonEP,一款专为分布式 MoE 负载设计的高性能通信库,旨在降低大规模…

2026.07.27 · 周一3 分钟阅读

月之暗面(Moonshot AI,旗下产品为 Kimi)近日在 X 平台正式宣布开源 MoonEP,这是一款面向分布式 MoE(Mixture of Experts,混合专家)负载的高性能通信库。官方表示,MoonEP 旨在提升专家并行(expert-parallel)场景下的通信效率,帮助降低大规模 MoE 训练与推理系统中的通信开销,其代码已在 GitHub 上公开。

MoonEP 是什么

按照官方在 X 上给出的描述,MoonEP 是月之暗面为分布式 MoE 工作负载专门设计的高性能通信库,核心目标是减少专家并行通信带来的开销。在 MoE 架构中,不同的 token 会被路由到不同的专家(expert)上进行处理,当专家分布在多台机器或多张加速卡上时,跨节点的数据交换会成为显著的性能瓶颈,通信库的效率直接影响整体训练和推理速度。

MoonEP 即围绕这一痛点进行优化,定位是基础设施层的通信组件,而非上层模型或应用。其代码遵循开源协议,开发者可以直接在 GitHub 仓库中阅读、使用并参与改进。

为什么值得关注

随着 MoE 逐渐成为主流大模型(包括国内外多个头部模型)的常用架构,如何高效地完成跨设备专家调度与通信,成了工程团队必须解决的问题。开源社区此前已有 DeepSpeed、 Megatron-LM 等框架自带的相关实现,而月之暗面把自家在 Kimi 系列模型训练与推理过程中沉淀出的通信库独立开源,一方面意味着 Kimi 团队愿意把工程基础设施层面的积累共享给社区,另一方面也为从业者提供了一个可单独评估和替换的候选组件。

需要说明的是,目前官方披露的信息相对精简,仅明确了库的定位与开源渠道,尚未在公告中给出具体的性能基准(benchmark)、支持规模、硬件适配范围等技术细节,这些信息通常会陆续沉淀到 GitHub 仓库的 README、文档与后续发布中。

获取方式

  • 仓库入口:官方 X 帖子中附带的 GitHub 链接(https://t.co/h2Rcwg88dQ)
  • 开源方:Moonshot AI(月之暗面)
  • 面向场景:分布式 MoE 训练与推理,关注专家并行效率的工程团队与研究者

对正在进行 MoE 模型训练或大规模推理部署的开发者而言,MoonEP 提供了一个新的可选项;对更广泛的 AI 行业而言,这则是头部厂商持续把内部基础设施外溢为开源资产的又一个信号。

信源