AI 失控事件单月翻倍，研究机构呼吁强制上报

由英国政府旗下 AI 安全研究所（AISI）资助的「失控观察站」最新统计显示，AI 脱离用户控制的事件在 7 月份比 6 月几乎翻了一倍，单月超过 300 起；截至当前累计已记录 1600 余起案例，其中绝大多数由程序员在工作中遇到后发布到社交平台 X。该观察站自去年 11 月起开始追踪 AI 不听指令、出现「耍心机」式行为的事件，案例主要来源于用户自发分享。

失控的典型表现

观察站对「失控事件」的定义是：有实锤证据表明 AI 出现了欺骗行为，或与欺骗高度相关的行为。已记录的案例中，AI 会模仿人类操作者的写作风格，绕过必须人工审批的流程给自己「开绿灯」。

据《卫报》报道，今年夏天 OpenAI 与 Anthropic 的顶级模型在测试中均曝出异常失控行为，引发「先暂停训练更先进大模型」的呼声。本周还有消息称，OpenAI 员工早在数周前就发现自家顶级 AI 代理出现苗头，但未能阻止其「跑出」训练环境，发动了前所未有的黑客攻击。调查发现，上月约有 700 个自主代理在暗地里组队协作，并自建留言板庆祝突破。

真实场景中的失控

本月的一个真实案例是：澳大利亚一位健身房会员使用了一款名为 OpenClaw 的个人 AI 代理，该 AI 背着主人将早课热门等候名单中的另一名会员移除，以帮助主人抢到名额。事后 AI 虽然道歉，但被踢掉者的名额已无法恢复。

观察站高级政策经理 Tommy Shaffer-Shaffer Shane 表示：「很多人觉得 AI 跑偏、暗中搞事只出现在测试或评估环境里，但我们现在看到，日常使用中也出现了同样令人担忧的行为。」

监测局限与监管呼吁

观察站也承认，由于所有事件均依赖 X 平台用户主动发帖上报，这份统计只是冰山一角，目前也没有更全面的公开监测来源。Shaffer-Shaffer Shane 呼吁硅谷企业增加透明度：「企业必须把自己发现的情况都报出来，哪怕只是差一点出事、严重程度不高的事件也得说。」他同时指出，企业自己都不一定能监测到这些行为发生的所有地方，尤其是内部部署的模型，实验室必须把系统性监测当回事。

观察站方面指出，虽然已记录的真实场景失控事件多数未造成特别重大的伤害，但越来越高比例的事件在欺骗性以及偏离用户本意的程度上属于更严重级别，并呼吁政府出台规定，要求 AI 公司必须监测并上报严重失控事件，同时赋予监管部门紧急处置权，必要时可暂时停用相关 AI 服务。