桃子桃子快讯
返回首页
行业动态

三元大模型卷土重来?近期 1.58-bit 模型盘点

社区盘点多款新发布的三元精度大模型,探讨其在边缘部署与编码能力上的进展与短板。

2026.08.16 · 周日2 分钟阅读

自微软发布 BitNet 以来,社区对大规模三元(1.58-bit)精度大语言模型的呼声一直未断。过去一个月内,多家新锐实验室集中放出了相关成果,让 1.58-bit 架构再度成为本地部署圈的关注焦点。

近期值得关注的 1.58-bit 模型

  • prismML 27B 三元模型:社区已有用户实测,但部分反馈显示其在某些基准上的表现未达官方宣传水平。
  • Deepgrove maple-20b-a1b:作者亲自体验后评价颇高,号称在 iPhone 上可达到约 100 tokens/s 的推理速度,展示了低精度模型在移动端落地的潜力。
  • Doses AI pestle-27b-ternary:面向医疗领域的 27B 三元模型,在多项指标上接近甚至超越 Google 的 medgemma-27b。

当前的主要短板

这些模型共同面临的问题是长时程智能体任务(agentic coding、长链路工作流)表现欠佳。发帖者认为,问题并非出在三元架构本身——多数发布方都是新兴实验室,尚未投入大规模强化学习后训练来「榨干」模型潜力,相关实验室也已将 RL 优化列为下一步重点。

社区期待与展望

尽管如此,社区对三元架构仍抱有期待。讨论中普遍认为,距离一款在编程与智能体任务上能够与 Qwen3-8B 等主流稠密模型正面竞争的混合专家(MoE)三元模型,可能只剩一步之遥;也有人担心若主流厂商长期不跟进,三元路线可能逐渐淡出。整体而言,这条低比特、高能效的技术分支正在从纸面概念走向真实可用的产品。

信源