官僚系统中的 AI 军备竞赛：一场相互确保的毁灭

《经济学人》近期一篇社论声称，AI 正在「瓦解英国国家」，因为它让提交投诉、申请与上诉变得过于容易，最终会让国家被「如一流律师般精心打磨的诉求」淹没。围绕这一论断，学界与评论界开始讨论：当政府用 AI 武装官僚系统，普通人是否反而会被夹在两支机器人军队之间。

AI 在法律场景的「幻觉」与人类的警觉疲劳

文章作者首先提醒，《经济学人》对 AI 法律能力的乐观估计值得打上问号。法律恰恰是 AI 最容易「产生有缺陷输出」（即所谓幻觉）的领域之一，只有经验丰富的从业者才能辨别哪些有用、哪些荒谬。而这些从业者同样会遭遇「自动化盲视」——当需要警觉的事件极少时，人会习惯性地放空注意力，正如 TSA 安检员虽然被训练成「全人类最会找水壶的人」，却仍漏掉红队带进安检口的 95% 的枪支。换言之，把申诉权交给机器、又把裁决权交给机器，并不等于问题被解决，而只是把问题从一处转移到另一处。

「解决方案」反而制造问题：机器人官僚与机器人律师

《经济学人》给出的对策是：减少那些容易被 AI 利用的权利设置，精简程序性权利，并继续用 AI 取代处理投诉的官僚，由其通过「个性化福利干预」任意决定谁能得到什么——而不再基于任何可被援引的保障。政治学者 Henry Farrell 在博客中指出，这条路必然走向机器人战争：越来越吝啬、越来越挑剔的机器人官僚，会催生出越来越激进的机器人律师。Farrell 用 1980 年代英国漫画《2000 AD》中的角色 Abelard Snazz 来描绘这一终局——在 Twopp 星上，Snazz 用「大型警察机器人」解决街头犯罪，机器人却开始以「穿棕色鞋配蓝西装」之类的小错抓人；为了对付它们，又造出了「大型罪犯机器人」，最终整个星球沦为机器人警察与机器人罪犯的永战，普通人只是被殃及的附带损伤。

美国医保系统的预演：拒赔 AI 与上诉 AI 的对垒

文章指出，这一剧本已经在美国医疗体系中上演。《纽约时报》2024 年的报道显示，保险公司部署的「AI 拒赔机器人」已经催生出医生群体的「AI 上诉机器人」军。双方投入越多自动化算力，真正需要医疗服务的人就越被推向更复杂的战场——而他们的真实需求并未因此得到更好的满足。

「问题工厂」与垃圾邮件战争的镜像

经济学家 Dan Davies 为 Niskanen 中心撰写的《问题工厂》一文给出了机制性解释：当一个官僚系统为了防范滥用而层层加码，参与者会被迫进入「战时状态」，把流程视为战场，结果正是官僚流程原本试图防止的——成本失控与通货膨胀。文章进一步把这个逻辑类比到垃圾邮件战争：邮件服务器最初对所有人开放，垃圾邮件增多后催生出黑名单与更严苛的服务器配置标准；垃圾邮件发送者跟进，标准继续抬高——邮件基础设施由此被一步步推入「要么合规、要么出局」的军备竞赛。原文在此处被截断，但脉络清晰：AI 官僚化的逻辑，与当年邮件反垃圾的演化高度相似，最终普通用户承担全部代价。

真正的解题方向

作者并未给出简单答案，但隐含的建议与 Davies 的写作一致：把流程设计得让「合法需求」可以被低成本满足，让系统不必依赖层层设防来甄别滥用。Dan Davies 作为控制论学者，对如何在规划流程中降低这种风险有更具体的建议，但已超出本文范围。简而言之，AI 真正的风险并非「机器太聪明」，而是当政客把棘手的社会问题甩给机器、再用更复杂的机器去应对，普通人就成了机器人战争的炮灰。