美智库提 23 项 AI 政策建议：为自动化 AI 研发风险做准备

导语

美国进步研究所（Institute for Progress）研究员 Tim Fist 与 Saif Khan 发表客座文章第二部分，针对自动化 AI 研发（automated AI R&D）可能带来的加速效应与失控风险，列出了跨七个领域的 23 项「低遗憾」政策建议。文章强调，虽然全面「放缓」AI 进展的利弊尚不确定，但提前进行政策准备，可以在不显著阻碍现有 AI 能力扩散的前提下，降低未来出现剧烈风险的可能。

为何需要提前准备

文章延续前一篇的判断：AI 在数学能力上持续取得突破，在软件开发与网络安全的多项子任务上已超越人类水平，相关能力分别每 7 个月与 5 个月翻一番。然而，驱动 AI 进步的关键要素——更高质量的数据、更优的训练算法、更多强化学习的应用、更大的模型规模——其具体作用机制在顶尖 AI 公司之外仍缺乏清晰理解。

自动化 AI 研发很可能在没有明显征兆的情况下加速整体 AI 进展，使政府与公众措手不及。作者因此认为，应当现在就建立政策储备，使得未来若「需要放缓」时具备可执行的工具，而不是临时拼凑应对。

政策干预的五条筛选标准

考虑到监管可能被反向利用、或以「一刀切」方式限制 AI 能力扩散，作者提出，任何干预都应同时满足以下五条标准：

仅针对可能导致严重且不可逆危害的 AI 研发活动；
最小化对现有 AI 能力扩散的阻碍，甚至加快扩散；
即使自动化 AI 研发及其风险最终并未兑现，干预也应当成本低、或带来明确收益；
不系统性歧视更谨慎的实验室与国家；
避免建立容易被滥用（例如把权力集中于少数公司）的新监管机构。

作者指出，同时满足这五条标准的政策空间比想象中更广，因此筛选出 23 项建议。

七大政策方向

这 23 项建议分布在七个领域，每个领域对应一类可操作的政策杠杆：

透明度：让政府与公众更清晰地看到自动化 AI 研发的内部情况；
政府能力：提升政府对自动化 AI 研发的理解与响应水平；
风险管理：制定专门的风险管理策略，加快防御性 AI 与商业 AI 的应用；
验证：加速 AI 验证技术发展，使得互不信任的各方之间可达成协议；
韧性：加速能提升社会承受与恢复能力的技术研发；
对华竞争：扩大美国相对于中国的 AI 领先优势，为风险管理争取时间、并提高国际谈判筹码；
外交：为就自动化 AI 研发风险开展国际合作创造可选性（option value）。

透明度建议的具体落点

文章对「透明度」一项展开了较详细的展开。作者认为，目前关于 AI 研发自动化的关键信息大多停留在企业内部，公开披露实践极为有限。在引用 CSET 与 Elasticity Institute 既有研究的基础上，建议披露的信息可归纳为五大类：

一般性 AI 进展背后的科学；
AI 对特定 AI 研发任务的自动化能力；
企业推进 AI 研发自动化的进度；
企业在 AI 研发自动化中的风险管理实践与相关事件；
企业的「模型行为规范」（model behavior specifications）类文件，例如 OpenAI 针对 GPT 模型的 Model Spec，以及 Anthropic 针对 Claude 模型的 Constitution。

作者强调，绝大多数此类信息目前并无披露要求，企业只在有限范围内自愿披露。文章建议，部分敏感信息可仅向美国政府披露，其余信息则应面向公众，以推动开放科学、提升外部审计能力，并支撑更精准的政策制定。

（本文根据客座文章已公开部分整理，更多细则可参阅 Institute for Progress 完整报告。）