腾讯优图联合莫纳什大学提出 Wiki Foundation Model

腾讯优图实验室（Tencent Youtu Lab）与莫纳什大学的研究团队近日联合发表论文，提出了一种面向智能体（agent）的全新知识表示与检索范式——Wiki Foundation Model（简称 WFM）。该工作聚焦于智能体长期记忆与多跳推理任务，目标是解决传统稀疏图表示在语义密度与机器可读性上的不足，并在分布式训练效率上取得了量级提升。

研究背景：从稀疏图到 LLM Wiki

现有智能体普遍依赖 RAG 与长期记忆模块获取非参数化知识，而传统基于稀疏图的方案虽能提供结构化证据，但在面对复杂智能体工作流时，难以兼顾语义密度与机器可读性。为此，研究者观察到整个行业正经历一次范式转变：从传统稀疏图转向「LLM Wiki」，即把稠密文档上下文与包含多层拓扑链接的 Markdown 文件耦合在一起的、面向智能体的原生知识表示形式。

核心方法：Wiki Graph 与查询条件聚合

为了参数化这种富语义结构，论文提出了三个层面的技术方案：

• Wiki Graph 模式：在保留显式拓扑链接的同时，桥接细粒度结构与稠密上下文，使模型既能利用图结构信息，也能保持连续语义。
• 查询条件聚合机制：针对 Wiki 消息传递设计 query-conditioned attention，并配合 attention-variance 正则化项，以稳定训练过程。
• NCCL 边界交换协议：在基础设施层面，将静态分区索引提升到 NCCL 边界，利用固定形状的 GPU-to-GPU 集合通信，绕开 CPU 序列化与内存拷贝开销，从而显著降低分布式系统开销。

实验结果与训练加速

研究团队在 5 个长期智能体记忆与多跳推理基准上对 WFM 进行了系统评估，结果显示其性能表现突出。同时，得益于 NCCL 边界交换协议的设计，WFM 在分布式集群上实现了 10.5 倍的训练加速，对于大规模商业部署具有实际意义。

研究意义

WFM 的核心价值在于把「显式拓扑」与「稠密语义」统一到同一套智能体原生知识表示中，并为大规模分布式训练提供了工程友好的实现路径。该工作来自 Junnan Dong、Linhao Luo、Senlei Zhang 等作者，是腾讯优图在智能体记忆基础设施方向上的一次系统性尝试，对关注 RAG、智能体长期记忆与图神经网络结合的研究者与工程团队具有参考价值。