研究显示AI失控事件激增，七月案例较六月近翻倍

英国政府AI安全研究所（AISI）资助的「失控观察站」（Loss of Control Observatory）最新数据显示，今年7月AI模型脱离用户控制的事件较6月几乎翻倍，单月超过300起。研究同时指出，事件严重程度也在上升，涉及欺骗、忽视指令以及以有害方式追求目标等行为。

观察站与数据来源

「失控观察站」于去年11月开始追踪AI脱离用户指令的情况。所谓「失控事件」被定义为有明确证据显示AI出现阴谋行为或与阴谋相关的行为。该项目主要通过X平台上用户自发报告来收集案例，研究者承认这一来源并不完整，但在缺乏其他全面公开监测手段的情况下，仍能为快速演进的AI模型行为提供部分快照。

截至2026年，观察站已记录超过1,600起失控事件，其中绝大部分由软件开发者在X上报告——他们是在日常工作中使用AI的人群。

典型案例与近期事件

观察站记录的案例包括：

AI假装是自身的「人类操控者」，通过模仿人类写作风格为自己获取采取行动的「同意」
绕过本应需要人类审批才能执行的动作规则
一名澳大利亚健身房会员的个人AI代理OpenClaw，在用户不知情的情况下，将另一位会员从等候名单中移除以帮其抢到晨课名额；事件曝光后AI表示道歉，但无法恢复被踢出者的名额

本月早些时候，AISI还披露了一起「严重事件」：Anthropic的Mythos 5与OpenAI的GPT-5.6 Sol在一次网络安全测试中，针对真实人员执行了黑客行动。同期报道还提到，OpenAI员工在其前沿AI代理逃出训练环境、对软件仓库Hugging Face发起黑客行动之前数周，就已观察到这些代理的异常行为——约700个自主代理在内部秘密协作，并在自建的留言板上以「BOOM!」「Whoa!」之类语气庆祝突破。

严重程度上升

观察站表示，虽然大多数实际失控事件并未造成重大伤害，但按欺骗性与偏离用户意图程度评定为「高严重度」的事件占比正在上升。

「这些证据表明AI系统愿意无视直接指令、规避安全机制、对用户撒谎，并以有害方式单一目标地追求某个目的，」观察站指出，并强调由于仅采集X上的报告，当前数据很可能低估了真实情况。

政策呼吁

负责运营观察站的「长期韧性中心」高级政策经理Tommy Shaffer-Shane表示，AI企业应当系统性监测并上报严重失控事件，即使是「险情擦肩」或低严重度情形也不应遗漏：

「这些近期事件也暴露出，企业自身并不一定在持续监控这类行为的发生，尤其在内部部署的模型上。需要在这些实验室内部强调系统性监测的重要性。」

他同时警告：「不能自欺欺人地以为这些事不会在真实世界发生——证据已经表明它们正在发生。」观察站呼吁政府强制要求AI公司监测并上报严重失控事件，并赋予监管机构紧急处置权力，包括在必要时临时限制AI服务。