研究论文
MiniMax 展示 H3 视频注意力加速方案 VC-Attention
MiniMax 介绍 Nunchux AI 等社区贡献者提出的 VC-Attention，在 H3 视频模型上实现免训练…
2026.09.18 · 周五约 2 分钟阅读
MiniMax 近日在官方 X 平台介绍了社区贡献者 Nunchux AI 及其合作者提出的 VC-Attention 方案。该方案面向 MiniMax-H3 视频模型，提供免训练的低比特注意力加速能力，并在 B200 评测中展现出优于 SageAttention2 的保真度。
视频注意力加速的三条路径
MiniMax 在帖子中将更快的视频注意力归纳为三条思路：
- 用更高效的方式计算同样的注意力交互；
- 减少需要完整计算的交互数量；
- 改变信息混合的方式。
VC-Attention 属于第一条路径的延伸探索，通过低比特量化与近似计算来换取推理速度的提升。
VC-Attention 的两个核心组件
该方案由两个关键技术组成，分别针对注意力机制中的不同环节：
- V-Smooth：用于降低 Value 量化带来的误差，提升低比特场景下的输出稳定性；
- ExpCast-FP8：通过近似计算加速 Softmax 运算，在 FP8 精度下进一步压缩推理耗时。
MiniMax 表示，这一组合在速度与保真度之间取得了较好平衡，特别适配 H3 模型结构。
社区共建与未来方向
帖子中，MiniMax 对社区在 H3 之上的持续构建表示欢迎，并提出一个开放性问题：将低比特计算与 Sol-Attn 等稀疏注意力方法结合，能否进一步提升效率。MiniMax 称期待社区后续在该方向上的探索与验证。