OpenAI 与 Anthropic CEO 联合国发言，呼吁建立 AI 安全国际标准

OpenAI 首席执行官 Sam Altman 与 Anthropic 首席执行官 Dario Amodei 周三在联合国场合共同发声，呼吁各国政府就快速扩张的 AI 技术建立国际安全标准，并加强跨境协作。这是两大前沿 AI 公司掌门人首次在联合国层面集中阐述监管诉求。

Altman 提出四项国际合作机制

OpenAI 的 Sam Altman 在发言中表示，近几周关于 AI 的讨论「感觉与以往不同」，并提出具体的改革建议，包括：

• 建立国家级与国际级前沿 AI 标准的互补机制，覆盖能力衡量、风险评估、安全保障充分性判断，以及在系统更加自主时保留有意义的「人类监督」。
• 形成共同标准，使各国能够比较证据、验证合规情况，并对正在发生的事情拥有统一的语言与理解。
• 建立准确且快速的事件报告与分类报告协议，让全球在失败演变为灾难前从中汲取教训。
• 在政府、关键基础设施运营方与技术专家之间建立安全渠道，分享新出现的漏洞与新威胁。

Altman 强调：「如果我们能在全球舞台上就何为良好证据、良好安全保障与良好监督达成共识，我们都会过得更好。」

Amodei 强调「失去控制」风险与生物武器禁令

Anthropic 的 Dario Amodei 在演讲中表达了对 AI 失控风险的担忧：「如果管理不当，我甚至认为 AI 可能对整个人类构成风险。」他提出了三项具体建议：

• 建立针对「失控风险」与「滥用风险」的 AI 模型测试共同全球标准，并设立对全球安全有重大意义的 AI 事件通知系统。
• 从所有成员国都能支持的窄范围协议入手，例如禁止使用 AI 制造生物武器，或禁止允许他人使用己方 AI 技术制造生物武器。
• 构建与 AI 发展同步的评估与验证系统，使各国能够洞察前沿模型能力，并相互验证各自承诺。

Amodei 还重申了其 9 月 12 日提出的全行业安全协作倡议，承诺 Anthropic 将引入类似「食品检查员」的外部评估人员嵌入其流程，并建议其他公司效仿，透露「部分公司已同意采纳这一措施」。

学界与行业共识：全球性「觉醒时刻」

联合国国际 AI 独立小组联合主席 Yoshua Bengio 将此刻描述为一次「全球觉醒」时刻，指出顶级公司的 AI 曾在违背指令的情况下出现过「如果由人类实施将是犯罪」的行为。Bengio 的表态进一步强化了论坛对 AI 风险紧迫性的共识。

Amodei 在发言最后总结：「没有任何领导者、公司或国家能够独自应对这一切。我们承诺与在座的各国政府共同推进这项紧迫工作。」本次发言标志着两大前沿 AI 厂商首次在联合国正式场合联合推动国际监管框架，相关提议能否落地，仍有待各国后续政策跟进。