桃子桃子快讯
返回首页
开源

LingBot-VLA 2.0 开源:覆盖 20 种机器人的 VLA 基础模型

团队开源 LingBot-VLA 2.0 视觉-语言-动作基础模型,覆盖 20 种机器人构型,含 6 万小时预训练数据、…

2026.07.08 · 周三3 分钟阅读

灵生智能(Robbyant)团队近日在 Hacker News 发布并开源了 LingBot-VLA 2.0,一个面向真实机器人应用的视觉-语言-动作(VLA)基础模型。相较 1.0 版本,2.0 在跨任务与跨构型泛化、动作空间、预测式动力学建模三方面做了系统性升级,6B 权重已上线 Hugging Face 与 ModelScope。

三大核心升级

LingBot-VLA 2.0 的改进围绕通用性展开:

  • 跨任务与跨构型泛化:重建数据管线后,预训练语料达到约 6 万小时,其中包含跨 20 种机器人构型的 5 万小时机器人轨迹数据,以及 1 万小时第一人称人类操作视频。
  • 统一动作空间:支持机械臂、末端执行器、夹爪、灵巧手、腰部、头部和移动底盘信号,不再局限于标准双臂操作。
  • 预测式动力学建模:以未来预测为代理任务,引入 DINO-Video 提供语义时序先验,引入 LingBot-Depth 提供几何线索。

预训练数据管线

团队在原始数据池基础上做了多轮过滤。机器人侧剔除视频-状态错位、模糊与遮挡、多视角错位、速度/加速度/加加速度异常以及静态信号片段;人类第一人称侧聚焦操作类视频,重建并标准化手部轨迹,过滤不稳定的相机或手部运动估计。最终语料覆盖单臂、双臂、半人形、人形和第一人称五类来源。

模型设计要点

统一动作表征

模型将异构构型映射到一个 55 维的规范化状态/动作向量:

  • 机械臂关节位置 14 维
  • 末端执行器位姿 14 维
  • 夹爪位置 2 维
  • 手部关节位置 12 维
  • 腰部位置 4 维
  • 头部位置 2 维
  • 移动底盘信号 3 维
  • 保留维度 4 维

MoE 动作专家

为改善跨构型扩展性,动作专家内部使用稀疏 MoE 层。细粒度专家切分与共享专家隔离,使通用先验和构型/任务专属模式在相同激活算力预算下共存。

双查询蒸馏

模型在视觉/文本 token 上追加当前与未来感知查询,分别蒸馏自 LingBot-Depth 和 DINO-Video,引导模型在因果推理中同时建模当前场景几何与未来场景演化。

权重与后训练示例

LingBot-VLA 2.0 以原生深度(native depth)版本发布,仓库 ID 为 robbyant/lingbot-vla-v2-6b。完整复现还需 Qwen3-VL-4B-Instruct、MoGe-2-vitb-normal、LingBot-Depth 与 DINO-Video 教师权重。

后训练以 RoboTwin 2.0 的 50 个任务为示例,需依次准备 LeRobot 数据集、机器人配置文件和归一化统计信息。训练时使用序列级辅助损失(系数 1e-3)与 z-loss(系数 1e-4)稳定 MoE 路由,并默认启用 Muon 优化器,也可切换回 AdamW。仓库同时提供了面向真实机器人的原生深度配置文件 real_robot.yaml,方便下游直接接入。

环境依赖方面,官方建议使用 Python 3.12 与 PyTorch 2.8.0,通过 tools/create_train_env.sh 一键创建 Conda 环境,并默认安装 flash-attn 2.8.3。

信源