Anthropic CEO 在联合国安理会就 AI 风险发出警告

Anthropic 首席执行官 Dario Amodei 近日在联合国安理会发表讲话，就人工智能技术的高速发展及其潜在风险向国际社会发出警告。该讲话以视频形式公开，是主流 AI 实验室负责人首次在联合国安理会这一最高级安全决策机构直接阐述 AI 风险议题。

讲话核心：AI 可能引发灾难性后果

Amodei 在发言中指出，未来几年内，先进 AI 系统的能力将出现跨越式提升，可能在多个关键领域超越人类专家。他特别强调了几类高风险场景：

• AI 被用于大规模生物或化学武器的设计与制造
• 高度自主的 AI 系统在关键基础设施领域作出不可逆的决策
• AI 驱动的虚假信息与舆论操控对民主制度构成结构性威胁
• 失控的智能体（agent）行为导致不可预测的连锁反应

Amodei 呼吁各国在 AI 安全研究、评估标准与红线设定方面加强合作，避免出现监管真空。

Anthropic 的立场与背景

Anthropic 长期主张在能力推进与安全治理之间寻求平衡，此次联合国发言延续了这一思路。值得注意的是，Amodei 此前已多次在公开场合表达对 AI 失控风险的担忧，并支持建立国际性的 AI 治理框架。

• Anthropic 是目前估值最高的独立 AI 实验室之一，主力产品为 Claude 系列大模型
• 公司此前发布了 Responsible Scaling Policy，将模型能力与安全措施挂钩
• Amodei 本人曾参与 OpenAI 的创立，后因理念分歧离开并创办 Anthropic

国际治理层面信号

联合国安理会此前鲜少就 AI 议题进行正式讨论。Amodei 此番讲话可能为后续国际层面的 AI 治理对话奠定基础，包括：

• 推动类似于核安全领域的国际监督机制
• 建立跨国 AI 安全研究协作网络
• 就前沿模型训练算力、数据来源等设定国际透明度标准

业界反应与后续关注

目前该讲话的视频已在公开平台发布，但完整的书面发言稿与安理会成员的反应尚未充分公开。Anthropic 与其他主要 AI 实验室是否会就国际合作提出具体倡议，以及各国政府对此次讲话的正式回应，值得持续关注。