中美 AI 专家齐呼吁：合作应对前沿模型安全风险

不久前在北京中关村举办的一个人工智能大会上，多位中美顶尖学者就前沿 AI 带来的网络安全与系统性风险发出共同警告，呼吁全球两大 AI 强国在激烈竞争之外寻求合作空间。会议由北京人工智能研究院（BAAI）主办，现场座无虚席，议题从递归自我改进、人形机器人，到 AI 安全治理，跨度极大。

大会规格与核心议题

本届会议汇集了多位计算机科学领域的传奇人物，包括公钥密码学共同发明者 Whitfield Diffie，以及因强化学习奠基性工作与 Rich Sutton 共同获得图灵奖的 Andrew Barto。MIT 计算机科学家 Stephen Casper 虽未能到场，但通过视频发表了演讲。

Casper 在会后接受采访时表示："AI 是一项全球性技术，具有全球性的收益与危害，并且新能力最终总会扩散。"他强调，日益强大的智能体（agentic）模型若缺乏国际协作，可能很快引发混乱。

网络与系统性风险的共同担忧

会议设有一个为期一天的专题环节，专门讨论更先进 AI 所带来的网络安全挑战，具体包括：

AI 生成代码中新型安全漏洞
由智能体工具调用（agentic tool use）所引入的新型攻击路径
自动化社会工程学攻击方法

上海交通大学教授林允（Lin Yun）在该领域有深入研究，他向作者表示，从短期来看，攻击者可能占据优势，但借助 AI 的新型防御手段有望将天平重新拉回防守一方。林允认为，即使国际合作因竞争而变得复杂，仍应作为优先事项。"如果不同国家对风险的理解趋于一致，制定共同的安全原则与技术标准就会变得更容易，"他说，"关键在于找到既能降低系统性风险、又不泄露敏感操作细节的共享领域。"

开源模型的双刃剑

对于中美两国而言，最紧迫的问题之一是如何在开放与风险之间取得平衡。开源权重模型对研究与创新至关重要，来自中国的开源模型在美国也广受欢迎。然而，随着这些模型能力持续增强，要确保它们不被用于发现安全漏洞、不被武器化为网络攻击工具，将变得越来越困难。

现实对照与呼吁

Casper 援引研究指出，在 AI 风险治理领域开展国际合作的收益，远超合作本身可能带来的国安风险。他将当前的处境类比为冷战时期美苏在核威胁面前的被迫合作——即便双方仍在竞相扩充核武库，也不得不共同管控核风险。

他总结道："目前 AI 领域几乎所有人都能达成的一个共识是：AI 不需要一场'切尔诺贝利时刻'。"

值得注意的是，就在此次会议前后，美国政府以国家安全为由，要求 Anthropic 阻止外国公民访问其最强大的模型（文中提及为 Mythos 与 Fable 5），Anthropic 随后撤销了相关访问权限。这一动作进一步凸显了中美 AI 领域在开放与管控之间的张力，也使得学界关于加强国际协作的呼声显得更为迫切。