研究论文
DC-Leap：无训练框架显著加速扩散大语言模型推理
研究者提出 DC-Leap，通过 draft-guided 连续跳跃解码，在不训练的情况下为扩散大语言模型带来最高 53…
2026.07.24 · 周五约 2 分钟阅读
扩散大语言模型（dLLM）凭借并行解码在效率上具备潜力，但现有策略普遍依赖较为保守的置信度阈值，以规避联合概率依赖误差（Joint Probability Dependence Error, JPDE），导致去噪迭代冗余、推理速度受限。arXiv 上新发表的论文 DC-Leap 提出了一种无需额外训练即可显著提升 dLLM 推理速度的解码框架，并在标准基准上取得了可观加速。
方法概览
DC-Leap 的核心思路是在并行解码过程中引入严格有序的因果约束，并通过「动态连续验证（Dynamic Contiguous Verification）」逐步校验 token 之间的依赖关系，从而在中等置信度区间即可做出可靠决策，化解 JPDE 对加速的制约。
关键技术点
- 动态连续验证：将严格有序的因果约束注入并行解码流程，逐 token 校验依赖关系，避免因联合概率误差而牺牲加速空间。
- Draft-guided 跳跃解码：借助 draft 模型跨多个 token 进行前向跳跃，为并行解码提供前瞻上下文，同时保留双向注意力在推理时的结构性优势。
- 与 KV-Cache 兼容：可与现有的 KV-Cache 机制叠加使用，进一步放大加速收益。
实验结果
论文在标准基准上进行了系统评测，主要数据如下：
- 在 MBPP 等长序列生成任务上，DC-Leap 最高带来 53.19× 的加速。
- 与 KV-Cache 结合后，加速比最高可达 105.02×，且生成质量与基线相当。
代码与意义
作者已将代码开源（GitHub: ffh-wyls/DC-Leap），便于社区复现与扩展。整体来看，DC-Leap 是一种「即插即用」式的解码加速方案，不依赖额外训练或微调，对于研究 dLLM 推理优化以及希望提升扩散语言模型部署效率的团队具有参考价值。但需注意，扩散大语言模型目前仍属于新兴方向，DC-Leap 的实际受益面主要集中在研究者与 dLLM 早期使用者，距离影响主流自回归 LLM 生态尚有距离。