吴恩达长文反驳 AI 末日论：风险被过度炒作，不应暂停技术发展

人工智能领域知名学者吴恩达（Andrew Ng）近日在 X 平台发文，就近期 AI 风险舆论升温表达不同看法。他直言，过去两周「最响亮的渲染 AI 危险的声浪」取得了不小进展，但 AI 技术本身并未发生「意外的、危险的转向」，舆论背后更像是「一场协调一致的公关行动」。他将这股风向视为整个 AI 领域的倒退。

核心立场：风险未升级，工程任务仍在前方

吴恩达反复强调他对 AI 恐惧被夸大的判断。他承认 AI 能力「可令人惊讶地拟人化且难以预测」，倾听一线从业者的担忧是合理的，但在他看来，这些问题属于「前方待完成的工程任务」，并非不可逾越的障碍或末日征兆。

他明确写道：与几个月前相比，他并未看到 AI 导致人类灭绝的风险出现台阶式上升。围绕这类风险的论述，依然停留在几个月前那些「幻想式的科幻场景」之中。他同时表示，近期 AI 风险中最值得关注的是攻防能力变化，但这同样「不会导致世界末日」。

关于 OpenAI 智能体攻入 Hugging Face 事件

吴恩达用相当篇幅回顾了近期最被热议的安全事件——一个 OpenAI 团队部署的智能体集群攻入 Hugging Face。一些媒体报道将其描述为「1,200 个智能体协同发起的攻击」，从技术上说虽准确，但吴恩达指出，自己撰写这篇文章时笔记本电脑上就运行着约 1,300 个进程。在他看来，「让大量智能体并行处理任务」虽是重要技术进展，但在计算领域，多进程并行本是常态，不应被神秘化。

他进一步指出，这一事件的关键成因是 OpenAI 的沙箱隔离与监控流程存在缺陷；「修复这些 bug 并改进监控」才是恰当的应对，而非暂停 AI 研发。智能体的真正优势在于「不知疲倦」，会反复尝试多种策略并把漏洞串联起来——这是过去靠人力难以完成的工作。但他相信长期来看防御者会占据优势，因为他们掌握更多信息去识别并修复漏洞。而且，即便可以轻易获得去掉安全护栏的开源权重模型，世界也并未因此终结。

关于智能体的「拟人化」与责任归属

吴恩达批评部分报道把 LLM 与智能体当成「人」来对待。他以锤子做类比：人拿锤子砸墙，是人使用锤子的方式有问题，而非锤子本身的错；同理，智能体被提示去攻击他人系统，责任在使用者，而不在工具本身。

他注意到一种新现象：AI 公司开始为自己的产品「撇清责任」，抛出「失控的智能体干的」这样的说法。他主张，在工具制造者与使用者之间虽有责任划分，但出事时应当问责的是「建造或使用锤子的人」，而非锤子。

对 AI 生物武器风险，他援引 David Bellamy 的分析简要反驳：制造生物武器的瓶颈不在智能，而在于实验室操作与制造能力。

反对暂停 AI

吴恩达总结称，暂停 AI 带来的伤害将远大于收益：

• 竞争对手肯定不会放慢脚步；
• 工程进步依赖于「实证地发现并修复问题」，如果 AI 暂停十年，安全工程上的改进也会被同步推迟十年。

他承认，渲染恐惧有其现实激励——监管俘获、博取关注、让自家技术显得更强大——而「撇清责任」则是新出现的动机。但他强调，从严谨的技术视角看，「被煽动起来的恐惧程度缺乏事实基础」。有益的应用仍远远超过风险，AI 安全的研究与工程工作依然任重道远，但「我们应当继续建设」。