Jim Fan 提出 RoboTTT：机器人模型原生支持 8000 步上下文

英伟达 AI 研究员 Jim Fan 近日在 X 平台宣布其团队提出的 RoboTTT 方法，首次将机器人策略模型的上下文窗口原生扩展到 8,000 个时间步，相当于约 5 分钟的「肌肉记忆」，且推理成本保持恒定。相比此前机器人策略只能依赖极少帧（不到 0.1 秒）、几乎「过目即忘」的状态信息，RoboTTT 将上下文长度一口气推进了三个数量级。

核心思路：把一个小模型装进大模型里

RoboTTT 的关键机制被称为测试时训练（Test-Time Training，TTT）。系统在主模型内部嵌入一个极小的「核心模型」，每当有新的传感器读数进入，就对这个核心执行一次梯度更新，使历史信息不断被压缩进其权重。由于隐藏状态本质上是固定大小的（一个小规模神经网络），机器人可以用极低的额外开销消化任意长度的经验，并且学习过程在部署之后仍可持续进行。

这一设计意味着用户可以把一段完整的视频直接作为提示输入，让机器人从人类的示范中一次性学习新任务，而无需重新训练。

能力亮点：一次性示教与即时纠错

• 一次示范即可学会：在电路板装配任务中，人类演示一种从未见过的新配置，机器人只需观察一次即可忠实复现。
• 自主纠错：机器人在执行过程中出现失误时，能够当场自我修正，且每次修正都会进入上下文，为下一步决策提供参考。
• 失败—修正映射：TTT 核心在训练阶段蒸馏出一种通用的「失败到修正」映射，使纠错能力成为一项通用技能。

性能曲线：上下文越长，闭环表现越好

团队提出了一条新的「上下文缩放曲线」（Context Scaling Curve）：从 128 步一路扩展到 8,000 步，闭环控制性能持续攀升，尚未出现饱和迹象。其中，采用 8,000 步上下文预训练的模型，相比 1,000 步版本性能提升达 62%。

Jim Fan 表示，大语言模型已经享受了长上下文带来的红利，机器人领域同样值得拥有，并展望未来实现百万级上下文「并非幻想」。更多技术细节将在后续线程中逐步展开。