桃子桃子快讯
返回首页
工具

a2acompress:多 Agent 通信无损压缩协议,token 减少 36%

面向 Agent 间交接的无损压缩编解码器,在 ToolBench 留出集上真实 cl100k_base 计数减少 36…

2026.08.13 · 周四4 分钟阅读

多 Agent 流水线(如 planner→builder→reviewer、工具调用循环、LangGraph / CrewAI / AutoGen 风格的编排)在上下文窗口中大量 token 被用于重复传递结构化信息:JSON 键、引号、重复的标识符、工具目录,以及被原始引用的输出内容。a2acompress 是一种针对 Agent 间交接(handoff)的无损压缩编解码器,并附带基准测试框架来保证结果可信。

核心结果

在 196 条真实 ToolBench 轨迹(3,013 次 handoff)的留出测试集上,使用实际 cl100k_base tokenizer 计数:

  • 原始规范化 JSON:140,661 tokens
  • a2c/1 完整成本:89,235 tokens(减少 36.6%)
  • 其中压缩负载 79,439 + 解码指令 9,796 + 字典 0

每个配置的解码结果必须逐字节等于原始规范化 JSON,否则不可采用。

让数字「诚实」的三项约束

大多数压缩演示只比较负载字节,回避接收方读取负载所需的额外信息。a2acompress 的头条数字始终是完整成本:

  • 完整成本 = 紧凑负载 + 模型解码所需的重建指令 + 任何附带的字典
  • 按完整轨迹划分训练/测试集:一切学习成分(字典、调参)只看训练任务,最终数字来自优化器未接触的任务,并在另外三个划分种子上复测
  • 不发明新 token:GPT 和 Claude API 无法消费自定义 token ID,全部使用 cl100k_base 普通文本计数;gzip 传输体积单独报告,绝不冒充为 token 节省

压缩机制

每条 handoff(plan、message、tool call/result、status、artifact、review、error、final)先规范化为统一记录格式,再编码为单行:

  • 紧凑模式:单字符键、默认值省略、位置字段、压缩头
  • 值引用:$3 复用先前的值
  • 内联反向引用:${o:l} 从会话前部拼接字符跨度,类 LZ 风格但负载保持可读文本,无需附字典
  • token 对齐切片:当实际 token 成本更优时微调引用边界,反向收益的引用会被丢弃
  • 自适应指令:每会话附带按需压缩的解码指令,只描述该会话实际使用的特性

内联反向引用是主力优化项:最终答案常常整段引用工具输出,工具目录每次也都重复自身壳体——一个 6-token 标记即可替代任意长度的字符跨度,解码器通过重放会话重建一切。在 ToolBench 数据上,内联反向引用完全取代了学习字典——优化器最终保留 0 个字典条目,因为逐会话发送字典的成本高于其节省,结论是实测而非假设。

优化循环

a2acompress optimize 是一个有界搜索,而非演示脚本:

  • 在配置网格上评估基线协议
  • 验证每个配置的无损性,失败者不可胜出
  • 每轮启用一项改进,依据训练集上的探针选择
  • 两次停滞或十轮后停止,选择最低成本的验证胜出者
  • 在另外三个划分种子上复测胜出者并报告波动
  • 写入包含清单(种子、语料指纹、搜索空间)的发布目录,确保结果可逐比特复现

实用门槛:完整成本节省 ≥15% 且在 10 次 handoff 内回本;当前胜出者节省 36.6%,在会话中位数第 1 次 handoff 即回本。

何时使用

  • 适用:你运行多 Agent 系统,编码和解码双方由你控制,按 token 计费,且 handoff 携带重复结构(工具目录、引用输出、模式化消息)
  • 不适用:希望即插即用地压缩任意 prompt 的代理——这是一个协议,假设双方配合;涉及跨厂商、跨系统的开放通信也不适用

CLI 包含 fetch、normalize、train、encode、decode、verify、benchmark、optimize 八个命令,pip install -e . 即可安装,完整 benchmark 仅需两条命令即可复现。

信源