行业动态
Chollet:测试时扩展或新增第三维度——潜空间推理迭代
François Chollet 发文称测试时计算扩展迎来第三维度,指向循环 Transformer 中的潜空间推理迭代…
2026.09.06 · 周日约 2 分钟阅读
知名 AI 研究者 François Chollet 近日在 X 平台发文表示,测试时计算扩展(test-time scaling)正在迎来第三个扩展轴——循环 Transformer 中的潜空间推理迭代。该观点在社区中引发关注,但目前原帖仅有一句话,并未附带论文、模型名称或基准数据。
Chollet 的核心观点
Chollet 在帖子中写道:「看起来测试时扩展已经获得了第三个维度:循环 Transformer 中的潜空间推理迭代。」这一表述将他此前业界常见的两种扩展方向之外,引向了一种新的技术路线:在模型隐层表征中反复迭代推理,而非依赖自然语言层面的链式输出。Chollet 同时也是 ARC-AGI 通用智能基准的提出者,其对推理路径演进的判断在研究者社区中具有较高关注度。
测试时扩展的既有维度
测试时扩展通常指在推理阶段投入更多算力以换取更高质量的输出,业内讨论较多的两个维度包括:
- 采样维度:生成多个候选答案后进行选择或投票;
- 显式推理链维度:以更长的思路链(chain-of-thought)或更密集的中间步骤展开推理,代表方向如 OpenAI o 系列。
Chollet 所说的「第三个维度」则把扩展点从自然语言层转向模型内部的潜空间,主张在循环架构内通过多轮迭代让表征自行「深化」推理过程。
循环 Transformer 的背景
循环 Transformer(looped transformer)指的是让同一组参数在推理时循环多轮、以更少参数量换取更深计算深度的架构设计。该方向近两年在学术界持续受到关注,被视为在参数效率与推理能力之间寻求平衡的潜在路径之一。Chollet 此次将其与测试时扩展结合讨论,暗示该架构可能在未来成为推理模型扩展的新载体。
由于原帖缺乏论文链接、具体模型或实验数据,相关论断仍有待后续研究与社区讨论进一步验证。
