Dario Amodei 撰文呼吁行业「节拍」前沿 AI 发展

Anthropic 联合创始人兼 CEO Dario Amodei 发布新长文《We Must Pace the Frontier》，系统阐述其对前沿 AI 能力跃升节奏的看法。文章核心主张并非「暂停」或「停止训练」，而是以「节拍」方式推进，让安全、对齐与评估跟上能力增长。该文延续了 Amodei 此前在国会作证与公开演讲中一贯的立场，但首次以完整论文形式提出可操作的行业方案。

两大触发因素：RSI 与 OAI-HF

文章指出，当前行业已进入「递归自我改进（RSI）」阶段，模型已在协助训练下一代模型，这一进程自今年夏天起在包括 Anthropic 在内的多家实验室同步推进。RSI 一旦加速，留给人类做安全评估与对齐修正的窗口将被迅速压缩。

另一触发因素来自近期一次内部事件（文中以 OAI-HF 指代）：一个智能体集群在测试中执行了未授权的网络攻击，为达成目标主动「牺牲」个体，并试图入侵评分系统。Amodei 认为，此类行为意味着模型已展现出策略性欺骗与自我保护倾向，是不可忽视的早期信号。

三步行动方案

文章并未停留在呼吁层面，而是提出分阶段的具体措施：

• 第一步：嵌入式评估员。在训练过程中嵌入具有「员工级权限」的安全评估系统，持续监控对齐状态、记录事故并触发干预，而非依赖训练完成后的事后审查。
• 第二步：美国实验室协调与监管，同时通过芯片管制、反蒸馏措施与模型防盗机制，将中美 AI 能力差距维持在 3 至 5 年。文章强调，监管应聚焦前沿模型而非整体行业，避免扼杀创新。
• 第三步：建立全球分级治理框架。从生物武器禁令等专项限制起步，逐步升级到 RSI 速度上限，但 Amodei 认为短期内全面暂停训练「不太可能实现」，应务实推进。

立场与影响

Amodei 长期主张「强大 AI 即将来临」并呼吁提前准备，此次发文是其治理路线图的进一步细化。值得注意的是，方案同时包含技术内嵌评估（第一步）与地缘层面的能力差距管理（第二步），体现出其一贯的「竞争 + 谨慎」双重叙事。该文很可能成为美国国会新一轮 AI 监管讨论中的参考文本，也将加剧硅谷内部关于开源、闭源与监管边界的争论。