Jim Fan 回顾 OpenAI 2016 年 World of Bits:计算机使用智能体的前世与「先泛后专」
NVIDIA 研究员 Jim Fan 回忆 OpenAI Universe 时代智能体操作浏览器的探索,指出如今计算机使…
NVIDIA 资深研究员 Jim Fan 近日在 X 平台发文,回顾了他在 OpenAI 时期参与的「World of Bits」项目,并以此为切入点反思了计算机使用智能体(Computer-Use Agent)十年来的方法论变迁。他指出,当下的 Astra 等系统可以被视作当年 OpenAI Universe 设想在同一宇宙中的「重生」。
2016 年的 World of Bits:用像素和鼠标「上网」
Jim Fan 描述的场景发生在 2016 年的 OpenAI:一个智能体直接观察屏幕像素、移动鼠标,最终在 United 航空网站上完成机票预订。这个项目被命名为 World of Bits,是 OpenAI Universe 基础设施计划的一部分。
- 智能体对「提交」按钮等 UI 元素没有任何先验知识;
- 策略网络必须通过试错,从零「重新发现」整个互联网的视觉语言;
- 训练手段是在 Pascal Titan X 显卡集群上,针对每个手绘任务奖励函数从零做强化学习。
Jim Fan 直言,这一路线在今天看来「注定失败」。
为何当年的方案「注定失败」
在反思中,Jim Fan 认为问题出在训练范式上:用针对单一任务手工设计的奖励函数,从零开始做强化学习,既无法获得足够的泛化能力,也难以扩展到复杂的真实网页交互。
他随后给出了今天看来更可行的路径——先在尽可能多的通用任务上做大规模能力爬升(hillclimb),再把模型专门化回落到屏幕像素与键盘按键层面。他将这一思路概括为 Specialized Generalist(专业化通才):先泛化,再特化。
与 Astra 的呼应,以及对「超前」的看法
Jim Fan 提到,如今的 Astra 等计算机使用智能体,可以视作当年 OpenAI Universe 设想在同一个「Universe」里的再次演化。他以略带自嘲的语气写道,那架 United 航班「这一次终于被可靠地订到了」。
在文末,他抛出一段在 AI 社区广为流传的感悟:
- 比所有人领先一步,你是先驱;
- 领先三步,你是先知;
- 领先五步,你是殉道者。
他把这句寄语送给了「GPT-6」,并表示 2016 年的那个实习生(暗指当年的自己)正在微笑。
