SCG 框架：为 LLM 多智能体系统提供高效贡献归因

随着大语言模型驱动的多智能体系统日趋复杂，如何公平、可解释地归因各智能体对最终输出的贡献，成为调试与评估这类系统的关键问题。现有方法多依赖反事实估值，即通过移除智能体或对比不同子集下的分数变化来估计贡献，但在以语言为媒介的工作流中，这类方法需要反复调用模型、方差较高，且难以显式捕捉智能体在中间语义状态上对任务信息的产生、保留与转换。

语义合作博弈框架

论文提出「语义合作博弈」（Semantic Cooperative Games，简称 SCG）框架，将一次完整的语言流实现表示为「语义生成超图」（semantic generation hypergraph），并在该结构上诱导出智能体级别的语义价值函数。基于此，论文定义了「语义 Shapley 值」（Semantic Shapley Value，SSV），将贡献按语义支撑逻辑进行分配。

与经典 Shapley 值需要枚举或采样所有智能体子集不同，SSV 关注的是语义层面的最小支撑与信息吸收关系，这使得贡献分配可以直接在单条轨迹上完成。

SLIC：单轨迹归因算法

为高效计算 SSV，论文提出 SLIC 算法，其核心流程包括：

• 沿单条执行轨迹构建语义超图；
• 恢复各步骤的最小语义支撑；
• 应用布尔吸收规则压缩冗余语义节点；
• 在不重跑任何智能体子集的前提下计算 SSV。

这一设计避免了传统 Shapley 估值中大量重复的模型调用，是 SLIC 性能提升的关键来源。

理论与实验结果

在理论层面，论文证明：当工作流满足集合式、完全可观测且无顺序依赖的标准条件时，SSV 退化为经典 Shapley 值，从而与既有博弈论结果对齐。

在实验层面，论文在一项满足上述条件的医学基准上验证了 SLIC：

• 相比蒙特卡洛 Shapley 基线，SLIC 将计算成本降低约 93.3%；
• 在归因一致性上仍与基线高度吻合。

在更一般的多角色工作流中，SSV 的排序与基于扰动的分数下降曲线保持一致，并暴露出一些「语义贡献」与「失败影响」明显分化的案例——即某些智能体对最终成功贡献显著，但移除后失败代价有限，反之亦然。这类分歧为多智能体系统的可解释性分析提供了新的视角。

意义与局限

总体而言，SCG 与 SLIC 提供了一种快速、无需反事实重跑、可解释的贡献归因方法，适用于复杂 LLM 多智能体系统。当前论文以理论分析与单条工作流上的实验为主，尚需在更多异构任务、更多智能体规模下验证其稳定性与可扩展性。