2026.09.25 · 周五工具
←返回首页话题 · Topic
#推理加速
共 33 条相关资讯
2026.09.24 · 周四开源
Liquid AI 开源 LFM2.5-VL-DSpark，端到端推理最高提速 2.62 倍
2026.09.18 · 周五研究论文
MiniMax 展示 H3 视频注意力加速方案 VC-Attention
2026.09.09 · 周三研究论文
论文提出借助离散扩散实现 LLM 无损加速
2026.09.08 · 周二工具
NVIDIA Sol 团队为 MiniMax-H3 视频生成提供加速方案并开源
2026.08.29 · 周六模型发布
MiniMax H3 视频生成模型加速版 Fast H3 v1 发布
2026.08.25 · 周二研究论文
KVBoost：块级 KV 缓存复用加速大模型推理
2026.08.22 · 周六工具
社区实测 KV cache 分块拼接：256k 上下文预填充提速约 3 倍
2026.08.22 · 周六工具
Llama.cpp 出现 DSpark PC Tree 推测解码分叉
2026.08.17 · 周一研究论文
书生 InternLM 提出 Mobius 架构：解耦知识与推理，训练数据减半、推理提速近 4 倍
2026.08.15 · 周六行业动态
Qwen3.8 获 TokenSpeed Day-0 推理加速支持
2026.08.14 · 周五工具
法国 11 人小团队 Kog，想用软件把 GPU 推理再榨一遍
2026.08.14 · 周五产品功能
OpenAI 推出 GPT-5.6 Sol 极速模式，速度提升 14 倍
2026.08.14 · 周五产品功能
OpenAI 为 GPT 5.6 Sol 推出「Ultrafast」极速模式
2026.08.12 · 周三研究论文
紫东太初提出 GMC 核心集剪枝：视觉 Token 减八成仍保多模态性能
2026.08.11 · 周二研究论文
Glimmer 搭配 Dflash 在 RTX 5090 上跑出 233 tps
2026.08.10 · 周一研究论文
MLLM 视觉 Token 剪枝新方法 MAP：预测中间层注意力，推理提速 3.09 倍
2026.08.08 · 周六工具
KerasHub 集成 vLLM，可原生用于模型推理服务
2026.07.25 · 周六研究论文
IST-DASLab 提出 SLQ 量化方法：3.3 比特实现任务级无损压缩
2026.07.24 · 周五研究论文
DC-Leap：无训练框架显著加速扩散大语言模型推理
2026.07.14 · 周二行业动态
SambaNova 在 RAISE 大会展示 H200+SN50 混合推理架构
2026.07.14 · 周二开源
DFlash 推理加速方案：单卡 RTX 6000 实现 3.4 倍提速
2026.07.05 · 周日研究论文
MrFlow：无训练扩散加速方案，最高 25 倍提速
2026.07.04 · 周六研究论文
扩散语言模型提速新方案：MBD-LMs 多块并行解码
2026.07.03 · 周五行业动态
DeepSeek 新技术「DSpark」遭曝光：号称速度大幅超越 MTP
2026.07.02 · 周四行业动态
DeepSeek 又放大招：开源 DSpark 与 V4 提速版，梁文锋自掏 200 亿守开源路线
2026.06.30 · 周二工具
Ornith 35B 搭配 DFlash 草稿模型，本地推理获 30–40% 加速
2026.06.28 · 周日开源
DeepSeek 开源 DeepSpec：推测解码全栈工具与多模型权重发布
2026.06.28 · 周日开源
DFlash 推测解码支持合并进 llama.cpp
2026.06.28 · 周日研究论文
DeepSeek 发布 DSpark 论文：推理提速 60%–85%，同步开源训练框架
2026.06.28 · 周日开源
DeepSeek 开源 DeepSpec：投机解码草稿模型全栈训练框架
2026.06.27 · 周六研究论文
DeepSeek联合北大开源新成果，梁文锋署名论文称生成速度提升85%
2026.06.27 · 周六模型发布