FaceMind 提出循环世界模型 LoopWM,主打隐空间迭代推理
FaceMind 推出 LoopWM 循环式世界模型,在隐空间中迭代修正状态,并通过延迟解码、分层课程学习等机制,应对长…
世界模型正在成为 AI 领域最拥挤的赛道之一。从视频生成到具身智能,几乎所有团队都在押注同一个愿景:让 AI 不只是理解世界,而是能预测世界、模拟世界,最终学会在世界中行动。然而截至目前,世界模型在架构、数据与评估体系上都尚未收敛。
在这一背景下,FaceMind 创始人 Adam Lu 选择了一条与主流视觉路线不同的切入路径:不把重点放在逐帧生成,而是将推理留在隐空间,并通过循环式结构应对长时域误差累积等问题。该团队提出的方案被命名为 LoopWM(Loop World Model),相关工作已获得英伟达"highly valued contribution"的评价。
架构思路:在隐空间里循环推理
LoopWM 的核心是让模型像"思考"一样在隐空间中反复迭代,而不是不断堆叠参数与算力。其设计围绕两条主线展开:
- 循环修正:模型在隐空间内持续迭代并修正自身状态,避免每一步都把可能错误的中间状态解码回像素空间,从而防止误差被逐级放大。
- 延迟解码(Deferred Decoding):只有当隐空间内的推理收束之后才进行解码,配合 Early Exit 等机制,把有限算力分配到真正重要的步骤上。
Adam Lu 表示,许多现有世界模型在测试时扩展上采用类蒙特卡洛树搜索的方式,搜索复杂度会迅速膨胀至指数级;LoopWM 则尝试做线性复杂度的 test-time scaling——在循环收束之后引入随机扰动,让模型继续下一轮 loop,由此扩展推理深度而避免指数级开销。
训练方法:分层课程学习
由于 LoopWM 本身具备循环性质,训练初期的核心难题是长 horizon 任务难以直接优化。团队采用的分层课程学习(hierarchical curriculum learning)包含两个维度:
- 从简单任务到困难任务:先用普通世界模型对样本做分类,准确率高的为简单任务,准确率低的为困难任务,按从易到难递进。
- 从短步到长步:将 rollout 步数作为第二层 curriculum,从 1 步逐步推进到 100 步甚至一两百步。
将两个维度组合后的训练效果明显优于"全部数据随机打乱"的方式。此外,团队在数据选择上也观察到,灵巧手类仿真数据(如 ManiSkill、DexArt)由于操作维度更多、复杂度范围更广,对训练帮助更大;普通夹爪类数据相对收益有限。
缘起:从 Imperial 到 FaceMind
Adam Lu 本科与硕士就读于英国 Imperial College London,期间深受导师 Daniel Rueckert 影响:后者告诫他"不要看机构,只看贡献本身"。随后他在香港中文大学跟随 William 教授攻读博士,并在 MSRA 完成实习。读博期间,他逐渐意识到 benchmark 不一定能反映真实落地效果,于是决心创业。
公司初创阶段曾尝试 AI 陪伴类产品,2025–2026 年正式转向 world modeling 方向,并陆续获得星连资本、360 集团、奇绩创坛等投资。LoopWM 是 FaceMind 在该方向上最具代表性的产出之一。
行业判断与下一步
在 Adam Lu 看来,公司选择大方向与学术科研的逻辑并不相同:投资界更倾向于押注已有共识的方向,再叠加具体创新;因此 FaceMind 并非从全新概念切入,而是在"世界模型"这一公认重要方向内,做架构层面的实质性探索。LoopWM 目前已被部分同行视为可能的新方向。
更长远地看,团队认为世界模型对具身场景而言,更接近"数据提供源"而非单纯的视频生成器;隐空间循环推理有望让机器人不仅生成世界,更在世界中思考。LoopWM 是他们给出的一个阶段性答案,但世界模型是否已迎来"ChatGPT 时刻",团队认为答案仍未明朗。
