RoboDojo 具身智能基准发布:最强模型真实世界成功率仅 12.8%
RoboTwin 团队推出 RoboDojo 基准,仿真与真机共 60 项任务,最强通用机器人策略真实世界平均成功率仅…
核心事实
RoboTwin 团队近日发布全新的具身智能评测基准 RoboDojo,把仿真与真实机器人评测统一在同一框架下,对当前 30 个主流机器人操作策略进行横向比较。结果显示,最强模型在仿真中的平均成功率仅 8.80%,在真实世界中最好也只有 12.8%,与人类专家的真实世界 100% 完成率形成巨大差距。
RoboDojo 由学术机构联盟发起,榜单由公益性组织 AI MMLab Club 基金会负责治理,不绑定任何商业模型方。其论文已上线 arXiv,配套代码、排行榜与真机远程接入接口同步开源。
任务设计:把操作能力拆成五道关卡
RoboDojo 的设计思路不是简单堆叠任务数量,而是把通用机器人所需的核心能力拆成五个维度:
- 泛化(Generalization):适应新背景、新光照、新物体和杂乱场景
- 记忆(Memory):记住已消失的信息并在后续动作中调用
- 精度(Precision):完成插管、对齐、精确接触等高容错操作
- 长程(Long-Horizon):执行多步骤、强依赖、误差累积型任务
- 开放语义(Open):理解未见过的指令并把语言目标转化为动作
仿真环境包含 42 个任务,其中泛化任务的桌面杂物最多可随机出现 25 个;记忆任务要求机器人从传送带消失的物体中回溯匹配目标;精细任务稍有偏差即失败;长程任务则更像真实家务——拿起、移动、交接、对齐、放置,每一步都可能引入累积误差。
在仿真之外,RoboDojo 还在 ARX X5、Piper、Piper X 三种双臂机器人平台上设置了 18 个真实世界任务,覆盖盖积木、做面包、装水果、插充电器、叠碗、拆乐高、清扫积木等日常动作。RoboDojo-RealEval 对真机评测做了统一硬件配置、工作空间布局、光照条件、复位流程、评测协议和部署接口的标准化,并要求三名评审对每次试验进行双盲打分。
榜单结果:仿真训练场与真实珠峰
在仿真榜单中,30 个代表性策略同台竞技,排名第一的 Hy-Embodied-0.5-VLA 平均分 13.07、平均成功率 8.80%,其后依次为 Spatial Forcing、π0.5、X-VLA 等。整体表现集中在个位数到十几个百分点的成功率区间。
- 仿真最强:Hy-Embodied-0.5-VLA,成功率 8.80%
- 真实世界最强:π0.5,成功率 12.8%,平均分 22.9
- 头部梯队:InternVLA-A1、GalaxeaVLA、Xiaomi-Robotics-0、X-VLA
- 人类专家:仿真 76.03%,真实世界 100%
更值得关注的是开放语义任务。即便在最强模型上,开放指令的成功率也仅约 1.67%。这说明当前机器人基础模型在语义理解、视觉定位、技能选择到动作执行这条链路上仍然非常脆弱,仿真里的相对靠前并不能直接转化为真实世界中的稳定表现。
不只是榜单,还是一套评测基础设施
RoboDojo 的另一层价值在于配套的 XPolicyLab。它把不同模型的异构数据格式、预处理流程、训练脚本、动作表示和部署环境统一封装,提供标准化的 observation-action 接口,使各路策略可以在同一张榜单上公平运行。团队已通过 XPolicyLab 接入 30 个代表性策略,实现「一次接入、多处评测」。
平台还支持异构并行仿真,可在同一基础设施内同时运行不同任务、不同物体与不同布局,显著提升评测效率。模型可以先在仿真中快速诊断能力短板,再部署到真实机器人接受标准化测试,并支持远程接入。
意义与展望
RoboDojo 给出的判断是:今天的机器人基础模型确实在进步,但距离「可靠、泛化、可部署」的通用机器人操作还相当遥远。它的意义在于把差距摆到桌面上——谁能泛化、谁会遗忘、谁动作抖、谁在真实世界掉队——让具身智能领域从比拼 demo 视频,转向比拼标准化赛道上的真实成绩。
团队表示,后续将持续扩展灵巧操作、移动操作、触觉操作、人型全身操作等评测方向。
