Mollick：多智能体规模化将让 AI 可解释性更加脆弱

沃顿商学院教授、AI 领域知名评论人 Ethan Mollick 近日在 X 平台发文，对 AI 系统——尤其是多智能体（multi-agent）协作场景下的可解释性提出警示。他的观点可概括为三点：第一，当前 AI 行为的可解释性已经相当脆弱；第二，当多个智能体在长时间跨度内协同工作时，它们会生成大量「思考 token」（thinking tokens），使得可解释性问题进一步加剧；第三，解决这一问题的唯一现实路径是借助其他 AI 来进行分析和解释，而这些「解释者 AI」自身的能力同样有限。

多智能体放大可解释性困境

Mollick 描述的趋势与当前 AI 产业的发展方向密切相关。随着 Claude、GPT、Gemini 等主流模型陆续引入智能体（agent）能力，让多个 AI 实例分工协作、完成长链条任务成为产品化的重要方向。然而，智能体之间的调用、规划、反思与重试会产生远比单轮对话更冗长的内部推理过程，这些过程既不直接展示给用户，也难以被人工审计。

「以 AI 解释 AI」的局限性

面对可解释性退化，业界普遍倾向于训练或调用专门的「解释模型」来对主模型的决策进行后置分析。Mollick 提醒，这种方法存在根本性的天花板：解释模型同样是不透明的统计系统，其自身推理能力、上下文长度和忠实度都受到训练目标的约束，无法充当真正意义上可靠的「第三方裁判」。

更像趋势信号而非具体方案

Mollick 的发文被其本人标注为「a sign of the future」（未来的一种征兆），意在引发讨论而非给出技术方案。原帖未提供具体模型、数据或案例，仅作为面向公众的行业观察。对于开发者和企业而言，这意味着在部署多智能体系统时，需要提前评估审计、归因与合规风险，而非默认系统输出可被完整追溯。

截至目前，相关讨论仍在社交平台层面发酵，尚无来自主流厂商的正式回应或技术方案披露。