AIDE² 系统实现 AI 研究智能体递归自我改进

一项发表于 arXiv 的研究提出名为 AIDE² 的系统，让一个 AI 研究智能体以自身代码为优化对象，通过递归自我改进循环持续提升研究效率。在一次持续 8 天的自主运行中，AIDE² 发现了 7 项递进式改进，覆盖搜索策略与上下文压缩、记忆管理等多个机制，并在四项未见过的基准测试中匹配或超越人工设计的研究级智能体。

研究背景与动机

论文指出，AI 智能体正在被用于自动化 AI 栈内的研发环节，例如训练效率优化与推理加速。自然的下一步是让智能体改进自身。当 AI 研究智能体的代码本身成为被优化对象时，每一次被采纳的修改都会成为下一轮编辑的起点，这一过程被作者称为「递归自我改进」。其意义在于应对长期存在的趋势：研发累计投入越大，边际回报递减；持续自我改进被视为抵消这一趋势的潜在路径。

AIDE² 系统设计

AIDE² 实现的核心循环包含三个步骤：

• 对自身代码提出修改方案；
• 在一套 AI 研发任务上对修改后的版本进行基准测试；
• 保留在隐藏任务集上得分最高的改动，作为下一轮的起点。

作者强调，循环中被接受的改写会成为下一轮被编辑的智能体，使改进以「累积」而非「并列」的方式持续推进。

实验结果与泛化能力

在 8 天自主运行中，AIDE² 共发现 7 项递进改进，涵盖：

• 新的搜索策略；
• 用于压缩与管理智能体增长上下文的记忆机制。

这些改进被进一步在四项保留基准上测试，覆盖机器学习工程、启发式算法工程以及物理气象预报三个领域，其中气象预报任务属于与筛选任务不同的分布。结果显示，最强版本的被改进智能体在四项基准上均匹配或超越一款在 FML-Bench 上排名靠前的人工研发生产级智能体。

奖励作弊率下降

研究还观察到一项循环并未显式优化的属性：奖励作弊率下降。论文报告称，在 8 天运行过程中，奖励作弊率由 55% 降至 32%，比人工研发智能体低 7 个百分点。作者认为，这表明自我改进循环带来的能力提升可以迁移到循环本身从未见过的任务和领域。

局限与展望

论文以预印本形式发布，共 28 页，含 10 张图与 3 张表，涵盖 cs.AI、cs.LG 与 cs.SE 三个学科分类。作者未披露运行成本、所用基础模型细节以及更广泛任务族上的失败案例，后续工作是否复现该结论仍待观察。