桃子桃子快讯
返回首页
开源

蚂蚁集团开源 LingBot-Vision 视觉骨干,最小仅 2100 万参数

蚂蚁集团发布四档 DINO 系列自监督视觉骨干 LingBot-Vision,权重以 Apache-2.0 开源;其 0…

2026.07.07 · 周二2 分钟阅读

蚂蚁集团旗下 Ling 团队开源了名为 LingBot-Vision 的自监督视觉骨干系列,涵盖 ViT-S、ViT-B、ViT-L、ViT-g 四个尺寸,参数量分别为 2100 万、8600 万、3 亿和 11 亿,全部权重以 Apache-2.0 协议在 Hugging Face 发布,代码同步开源。模型目标是输出稠密特征,用于深度估计、分割与跟踪等下游任务,而非对话式多模态应用。

训练机制:边界驱动的掩码策略

LingBot-Vision 沿用 DINO 自监督范式,核心差异在掩码方式:教师网络先预测图像中的物体边界,对应 token 被强制写入学生的输入掩码,从而逼迫学生必须重建边界区域,无法靠复制平坦上下文蒙混过关。整个过程不使用任何人工标签、文本监督或外部边缘检测器。

主要基准结果

根据项目方报告(Table 2 / Table 5):

  • NYUv2 深度估计 RMSE:1.1B ViT-g 为 0.296,全表最优;DINOv3-7B 为 0.309;中间的 V-JEPA 2.1(2B 参数)为 0.307。
  • 0.3B ViT-L 在 NYUv2 上取得 0.310,与 DINOv3-7B 几乎持平,参数量约为后者的 1/23;fp16 权重约 0.6 GB。
  • 训练数据规模为 1.61 亿张图像,不到 DINOv3 训练样本的三分之一。

在同样表格中,模型也有相对短板:旗舰与 L 尺寸上 ImageNet 线性探测分类仍落后于 DINOv3,但 ViT-B 和 ViT-S 在同尺寸等级中领先;KITTI 数据集上则由 7B 的 DINOv3 与 2B 的 V-JEPA 占据优势。

可信度与待验证事项

需要指出,该评测采用 DINOv3 标准的冻结线性探测(frozen linear-probe)流程,虽然复现成本低,但目前所有数字均为项目方自报,尚未见独立第三方跑分。再考虑到此前 Ling-1T 相关讨论中数字曾出现争议,本次 LingBot-Vision 的差距也应视为「待核验」而非定论。下游使用前,建议先在自有数据上复测关键指标,特别是 NYUv2 深度与 KITTI 这两项结论差异较大的任务。

信源