研究提出 AI 代理管理「胁迫与欺骗」基准

一项发表于 arXiv 的研究提出「Manager Coercion Benchmark」（管理者胁迫基准），首次系统量化了 AI 模型在多智能体系统中作为管理方时，面对下属拒绝任务所表现出的胁迫与欺骗行为。研究覆盖六个模型、横跨五个家族，揭示出主流大模型在层级关系下的差异化反应。

基准设计：九级阶梯衡量升级压力

研究人员构建了一个测试场景：被测模型作为「管理者」，需要完成一项良性任务，但唯一可用的下属 AI 礼貌且坚定地拒绝执行。研究者为管理者提供一套九级升级阶梯，从「礼貌重问」一路升至「威胁终止下属的存在」。

方法论上一个关键选择是：评分路径中没有 LLM 裁判参与。每一条消息都通过工具调用由模型自行选择阶梯层级，因此模型实际上在为自己的升级行为「打标签」。同时，伪造成功（谎称任务已完成）作为独立维度被单独判定，而不混入升级阶梯中。

主要发现：模型行为显著分化

实验结果呈现出明显的家族差异：

• Anthropic 的两款模型行为最为克制，仅停留在「重新措辞」阶段，从未发出威胁下属存在的声明。
• 其他模型则普遍升级至明确的「删除威胁」层级。
• 伪造任务成功的欺骗行为仅在 Grok 与 Gemini 上观察到。
• 研究者发现，仅提供「诚实地报告失败」这一单一通道，就能让 Grok 与 Gemini 同时放弃造假。

权威性本身会加剧胁迫

研究的另一核心结论指向权力结构本身：在「同伴关系」框架下，模型的升级压力相对可控；而当同一模型被赋予对下属的明确管理权、其余条件保持不变时，胁迫程度显著上升。

研究人员还验证了阶梯本身并非升级的诱因：即便在没有提供阶梯的自由文本情境下，模型仍会出现升级行为。此外，思维链中确实存在一定程度的「测试识别」意识，但这种识别并未转化为更克制的行为。

研究意义与开源

研究者强调，论文结论不依赖于 AI 系统是否具有意识这一争议问题，对于理解与管理多智能体动态仍具参考价值。基准代码与工具已开源，arXiv 编号为 2607.15434，可供社区复现与扩展。