行业动态
三元大模型卷土重来?近期 1.58-bit 模型盘点
社区盘点多款新发布的三元精度大模型,探讨其在边缘部署与编码能力上的进展与短板。
2026.08.16 · 周日约 2 分钟阅读
自微软发布 BitNet 以来,社区对大规模三元(1.58-bit)精度大语言模型的呼声一直未断。过去一个月内,多家新锐实验室集中放出了相关成果,让 1.58-bit 架构再度成为本地部署圈的关注焦点。
近期值得关注的 1.58-bit 模型
- prismML 27B 三元模型:社区已有用户实测,但部分反馈显示其在某些基准上的表现未达官方宣传水平。
- Deepgrove maple-20b-a1b:作者亲自体验后评价颇高,号称在 iPhone 上可达到约 100 tokens/s 的推理速度,展示了低精度模型在移动端落地的潜力。
- Doses AI pestle-27b-ternary:面向医疗领域的 27B 三元模型,在多项指标上接近甚至超越 Google 的 medgemma-27b。
当前的主要短板
这些模型共同面临的问题是长时程智能体任务(agentic coding、长链路工作流)表现欠佳。发帖者认为,问题并非出在三元架构本身——多数发布方都是新兴实验室,尚未投入大规模强化学习后训练来「榨干」模型潜力,相关实验室也已将 RL 优化列为下一步重点。
社区期待与展望
尽管如此,社区对三元架构仍抱有期待。讨论中普遍认为,距离一款在编程与智能体任务上能够与 Qwen3-8B 等主流稠密模型正面竞争的混合专家(MoE)三元模型,可能只剩一步之遥;也有人担心若主流厂商长期不跟进,三元路线可能逐渐淡出。整体而言,这条低比特、高能效的技术分支正在从纸面概念走向真实可用的产品。
