法国 ZML 发布跨芯片推理引擎，支持多家 GPU 与 AI 加速器
由图灵奖得主 LeCun 背书的法国创业公司 ZML 推出 ZML/LLMD 推理服务器，可让多种开源大模型在英伟达、A…
法国 AI 创业公司 ZML 近日正式推出推理性能软件 ZML/LLMD，可在多种芯片上高效运行开源大语言模型。该公司由图灵奖得主 Yann LeCun 公开背书，创始人兼 CEO Steeve Morin 此前是社交应用 Zenly 的工程副总裁，该应用于 2017 年被 Snapchat 以九位数美元收购。ZML/LLMD 的核心目标，是打破当前 AI 推理环节的硬件与软件壁垒，让不同架构的芯片都能在推理场景中发挥接近其峰值性能。
产品覆盖范围与跨芯片能力
ZML/LLMD 作为一款 LLM 推理服务器，目前已支持在多种硬件上运行开源 LLM，覆盖芯片包括：
- 英伟达 GPU
- AMD GPU
- 谷歌 TPU
- 苹果 Metal
- 英特尔 Arc
Morin 在接受 TechCrunch 采访时表示，其团队的长期愿景是与多家芯片厂商进行「联合芯片设计」，而不只是被动适配现有硬件。ZML 总部位于巴黎，团队规模仅 20 人，但创始人强调这种精干结构使其能够保持迭代速度并快速推出新版本。
商业定位与融资背景
ZML/LLMD 目前的发布策略较为独特：产品不采用开源许可证，但以免费形式推出，目的是先积累真实使用数据，再决定后续的商业化路径。Morin 表示：「我更愿意先衡量用户行为，然后在最有效的环节去变现，而不是一开始就因为过于贪心而阻碍增长。」
公司此前已完成 2000 万美元融资，投资方包括 Harry Stebbings 的 20VC、>commit、AALVC、Drysdale Ventures、Xavier Niel 的 Kima Ventures、Kindred Capital、LocalGlobe 和 Puzzle Ventures。ZML 的股东名册中还包括 Docker 创始人 Solomon Hykes，Hugging Face 的 Clément Delangue 与 Julien Chaumond，以及供职于 AMI Labs 的 Yann LeCun。
推理赛道竞争格局
AI 推理近期被业界称为「推理淘金热」，ZML 面临的具体竞争对手包括：
- Baseten：近期估值达 130 亿美元
- Inferact：由开源项目 vLLM 的核心团队创办
- RadixArk：开源项目 SGLang 背后的商业公司
Morin 认为，vLLM 与 SGLang 与 LLMD 部分重叠，但 ZML 的覆盖范围更广，并强调其软件有助于推动新兴 AI 芯片厂商进入市场，尤其点名了欧洲多家芯片公司，包括 Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud 与 VSORA。他同时表示并非看空英伟达，公司与英伟达保持着良好关系，并将受益于后者在推理领域的持续布局。
欧洲 AI 创业土壤
ZML 的案例也被视为欧洲本土 AI 创业生态走向成熟的注脚之一。Morin 表示：「我只能在巴黎做 ZML。」除本款推理产品外，ZML 此前的首个公开项目是 2024 年发布、并于今年 3 月更新的推理导向型 ML 框架，但该框架与 ZML/LLMD 的许可证策略有所不同。截至目前，公司尚未公布 ZML/LLMD 的付费时间表与采用率数据。