桃子桃子快讯
返回首页
开源

inclusionAI 开源 Ling-3.0-tiny:8B 总参 / 1.3B 激活 MoE

inclusionAI 在 Hugging Face 开源 Ling-3.0-tiny,采用 8B 总参数 / 1.3B…

2026.08.11 · 周二2 分钟阅读

AI 创业团队 inclusionAI 近日在 Hugging Face 开放权重发布了 Ling-3.0-tiny 模型,这是其在数日前开源 Ling-3.0-flash 之后推出的更小尺寸版本。该模型采用 MoE(混合专家)架构,总参数 8B,单次推理激活参数仅 1.3B,主打高吞吐与本地部署效率。

模型基本规格

Ling-3.0-tiny 的核心配置如下:

  • 总参数规模:8B
  • 单次激活参数:1.3B
  • 架构:MoE(混合专家)
  • 权重形式:开源权重(open weight),托管在 Hugging Face

得益于 MoE 的稀疏激活设计,该模型在大多数硬件上应能获得相当可观的 tokens/sec 推理速度,适合对响应延迟敏感或算力受限的本地化场景。

性能定位

根据社区初步反馈,Ling-3.0-tiny 的整体能力大致落在 Qwen 与 Gemma 系列中 4B 密集模型与 8-12B 密集模型之间,即用远低于同档密集模型的激活参数实现接近更上一层模型的性能。这种「以小博大」的定位正是当前小型 MoE 模型受到关注的主要原因之一。

社区观察

在 Reddit r/LocalLLaMA 板块,有用户对这类小型 MoE 模型表达了明确偏好,认为在个人设备和边缘部署场景中,激活参数小、总参数可控的 MoE 是兼顾质量与速度的实用选择。Ling-3.0-tiny 的发布为该方向又增添了一个新的可选项。

目前 Hugging Face 模型卡中尚未公布完整的 benchmark 细节与上下文长度等参数,如需用于生产评估,建议关注官方后续披露的评测数据与上下文配置。

信源