LingBot-Video 开源：13B 稀疏 MoE 视频扩散模型，支持动作条件世界建模

robbyant 团队近日发布并开源了 LingBot-Video，一个总参数 13B、激活参数仅 1.4B 的稀疏混合专家（sparse-MoE）视频扩散 Transformer。项目同步放出了论文、模型权重与基于 Diffusers / SGLang 的推理栈，在开源视频生成模型中属于参数规模较大且技术路线较为前沿的一次更新。

模型架构

LingBot-Video 采用单流（single-stream）扩散 Transformer 架构，MoE 模块参考 DeepSeek-V3 的设计思路：

• 共设置 128 个专家，路由采用 top-8 策略。
• 每次前向激活约 1.4B 参数，相对于 13B 总参数，稀疏比约为 9:1。
• 整流采用标准扩散 Transformer 路线，权重、训练代码与推理栈均以 LingBot-Video 名义开源。

这种「用稀疏 MoE 做大参数、低激活视频扩散」的组合，在开源社区中并不常见，更接近通用大语言模型中的做法。

后训练与世界模型能力

除常规文生视频能力外，团队对模型进行了六项奖励驱动的 RL 后训练，其中包含一项物理合理性奖励（physical-plausibility reward）：

• 物理奖励由一个 VLM 对采样帧进行打分，并辅以真实视频负样本以抑制奖励 hacking。
• 模型额外提供「动作到视频」模式，可基于动作条件与手部姿态条件预测机器人推演（rollout）。

项目方将其定位为策略评估器与动作规划器，但目前公开的结果主要仍是视频帧质量指标，并未给出闭环机器人任务的实际数字。

基准表现

在项目方自报的评测中：

• 在 RBench 上取得平均分第一，但推理相关的维度仍由一个闭源模型领先。
• 在通用文生视频（T2V）评测中位列第二，落后于当前最强基线。

换言之，LingBot-Video 在整体平均上表现亮眼，但并未在所有维度形成压倒性优势。

社区关注与待解问题

作者在 Reddit 上主动抛出两点争议供社区讨论：

• 由 VLM 充当物理合理性的裁判是否站得住脚？即便加入了真实视频负样本，仍存在被 Goodhart 定律击穿的风险。
• 模型被定位为「策略评估器 + 动作规划器」，但目前所有结果都是视频帧质量指标，缺少闭环机器人数据，因此「视频生成器」与「世界模型」之间的边界尚不清晰。

获取方式

论文、项目主页与开源仓库均已公开：

• 论文 / 项目主页：https://technology.robbyant.com/lingbot-video
• 代码仓库：https://github.com/robbyant/lingbot-video
• 权重仓库：https://huggingface.co/robbyant/lingbot-video

对于关注稀疏 MoE 视频扩散、动作条件生成与世界模型方向的研究者与工程师，LingBot-Video 提供了一个可直接复现与二次实验的开源基线。