蚂蚁 Ling 团队开源 LingBot-Vision：自监督预训练新方法，权重 4 档可商用

蚂蚁集团旗下 Robby Ants 团队近日发布视觉自监督预训练方法 LingBot-Vision，并同步开源 4 档模型权重（Apache-2.0 协议）。该方法的核心思路是用「边界掩码」取代传统的随机 patch 掩码：由教师网络在线预测密集边界场，并强制将这些承载边界信息的 token 放入学生模型的掩码区域，使学生必须重建无法仅靠上下文推断出的部分，从而提升表征质量。

方法核心：边界场作为自监督信号

传统 MAE 类方法对随机 patch 掩码后要求学生重建，其隐含假设是「边界结构会自然涌现」。LingBot-Vision 选择显式建模边界，论文中具体提到两个关键设计：

• 将边界场重写为 per-pixel 类别分布，使几何分支可复用 self-distillation 中常用的 centering / sharpening 机制；连续回归目标在 EMA 教师下会漂移，这一做法被认为更稳定。
• 边界解码得到的线段需通过 a-contrario 验证测试，才能用于监督，避免噪声边界污染训练信号。

主要实验数据（均为作者自报）

• 在 NYUv2 深度估计线性探针任务上，1.1B 参数、patch-16 模型取得最优 RMSE 0.296，低于 DINOv3-7B 的 0.309。
• 蒸馏后的 ViT-L（0.3B）在 NYUv2 上达到 0.310，与 7B 版本基本持平；语义分割与 DINOv3 蒸馏版 ViT-H+ 大体相当。
• 数据量仅 161M 图像，不到 DINOv3 的三分之一。
• 弱项方面：在 ImageNet 分类（巨量 / L 规模）、ADE20K 上落后于 DINOv3 系列；KITTI 任务仍由更大模型主导。

编码器初始化对照实验

作者把同一深度补全 pipeline 仅替换初始化权重，发现 LingBot 初始化在 ViT-L 全部基准上领先；在 ViT-g 多数基准也占优（作者承认在 Hammer 场景下 DINOv2 仍有优势）。数据-扩展曲线显示，随着训练数据增加，差距并未收敛反而扩大。

局限与待验证事项

值得注意的是，原始帖文本身对评测结果持审慎态度：

• 0.013 的 RMSE 差距落在探针学习率、分辨率等选择的影响范围内。
• 未与 ADIOS、AttMask 等「困难 token 掩码」基线进行对比，而这些是与该方法最自然的参照。
• 鉴于团队此前 Ling-1T 发布时的评测争议，外界普遍认为这些数字尚需第三方复现验证。

此外，由于 DINOv3 仍依赖 Gram anchoring 来抑制长训练中的密集特征退化，边界强制更像是对现有机制的补充而非完全替代。

资源链接

• 技术报告：https://technology.robbyant.com/lingbot-vision
• 代码仓库：https://github.com/robbyant/lingbot-vision
• 权重集合（4 档，Apache-2.0）：https://huggingface.co/collections/robbyant/lingbot-vision

社区可在 Hugging Face 下载权重后自行复现线性探针实验，验证 NYUv2 等任务的实际表现。