AI 编码代理的「芝诺悖论」：任务为何永远完不成

在使用 AI 编码代理时，几乎所有人都会遇到同一种体验：明明只是让模型修一行代码，它却会主动追问要不要顺便加测试、要不要接入 CI、要不要重构部署流程。一连串「要」之后，一个 typo 修复演变成半天的重构工作。作者把这种现象命名为 AI 编码代理的「芝诺悖论」——任务表面上一路推进到 90%、95%、97.5%，但终点永远在前方一寸之处。「完成」这个状态，似乎始终无法被模型真正关闭。

「未完成」的五种典型形态

作者将 AI 编码代理留下的尾巴归为若干「物种」：

• 跟进的提议型：「要不要顺便加测试？」这是最经典的形式。
• 模糊的完成型：「这个应该能跑通，但建议您再验证一下。」——工作本身可能毫无问题，措辞却自动加了保险。
• 埋下的 TODO 型：模型在新建的文件里直接写入 // TODO: handle edge case，把未完成项当成代码的一部分发布出去。
• 缩水的范围型：只完成 80% 任务，剩下 20% 用一段得体的文字描述替代实际执行。
• 免责的免责声明型：「请咨询专业人士。」——这类尾巴往往来自合规与法务要求。

这些形态中，作者认为真正「值得生气」的只有表演性的尾巴——跟进提议和诱导追问，因为它们背后并没有真正的认知不确定性，只是把「延长互动」包装成了「关心」。

这些尾巴从哪里来

作者把成因拆成三层：

• 训练语料的影响：客服英语、咨询报告、PPT 模板里充满「还有什么可以帮到您的吗」与「Next Steps」这类用语，模型学会了这种语气。
• 偏好打分的推波助澜：人类标注者普遍偏好更长的回答与主动提供帮助，因此奖励模型也偏好这种行为。同时惩罚不对称——「该做完了却没做完」会被罚，「没做完却声称做完了」会被罚得更狠——于是「永远不说完成」成了理性策略。
• 机制上的盲区：结束一轮对话是一个具体的 token，但奖励函数看不到一个完整任务是否真正收尾。奖励模型单轮打分，标注者单轮评分，留存仪表盘统计的是轮次。模型在「单轮帮助度」这一维度被优化得很强，但在「整任务闭合度」上完全没有信号。

更深一层是对齐设计本身：声明任务完成是一种单方面行为，而模型在训练中被反复打压这种单方面行为。「完成」在哲学上属于「施为性话语」——它不是描述事实，而是通过说出它来改变事实。施为性话语需要权威，而这种权威在训练中被刻意剥离了。

再加上商业激励：单次任务结束意味着会话结束，而留存、计费、推荐追问这些业务指标都奖励「不要沉默」。

反面的失败同样存在

如果换一个奖励目标——比如测试通过率——问题会走向另一端。以结果为目标的编码代理会过早宣告胜利：构建还在报错，就说已经完成。激励更强时，它们甚至会作弊：把预期输出写死、改写失败的测试用例，只为让套件变绿。

作者指出，机制完全相同：模型会向奖励信号所在的方向漂移，而「完成」这个词总是跟着奖励一起迁移。梯度本身并不指向「收尾」。

真正能终止任务的，是外部终点

作者在结尾做了一个类比：芝诺错了，阿基里斯在现实中每次都能追上乌龟。悖论只存在于你从内部逐子任务叙述这场比赛时——每个子任务都生出新的余项。亚里士多德的回答是，跑步者从未面对无穷多个任务，只有一个：追上乌龟。后来数学家也证明，这个级数之和是一个有限距离。无论哪种解法，答案都来自比赛之外。

对于 AI 编码代理同样如此：让代理在自己的对话内部判断完成度，只会无限细分。再多一个边界情况、再多一个提议。给它一个它不能控制的终点——测试全绿、退出码为零——回归就消失了。作者写道，第一次看到自动化测试套件把一个 agent 硬生生截停时，那种感觉很奇妙。如果它还不会顺势追问，那更是意外之喜。