桃子桃子快讯
返回首页
模型发布

Luth-2 系列发布:法语小尺寸 SOTA 模型开源

Luth-2-0.8B 与 Luth-2-2B 在多项法语基准上刷新同尺寸最佳成绩,基于 Qwen3.5 骨干并开源权重…

2026.08.11 · 周二3 分钟阅读

法国小型语言模型 Luth-2 系列正式发布,包含 0.8B 与 2B 两个参数版本,在多项法语基准测试中刷新同尺寸模型的最佳成绩,并同步开源权重、后训练数据与训练代码。

模型概览

Luth-2 系列此次推出两款非推理(non-reasoning)模型:

  • Luth-2-0.8B:约 8 亿参数,可在端侧设备本地运行
  • Luth-2-2B:约 20 亿参数,同样面向本地与边缘部署

两款模型均基于 Qwen3.5 作为骨干网络进行后训练,覆盖数学、知识、代码、工具调用、指令跟随、多轮对话与科学等领域。作者表示,相比其他候选骨干,Qwen3.5 对后训练「接收度更高」。

训练方法

Luth-2 在前代基础上引入了多项实质性改进:

  • 新增 3B token 的 SFT 混合数据集,扩大领域覆盖范围
  • 引入专家特化(expert specialisations)强化学习路径
  • 采用多域 on-policy 蒸馏(MOPD)进一步扩展模型能力

官方称,模型在所选法语基准上击败了同尺寸级别的所有对比模型,并在多项指标上与更大体量模型保持竞争力。

主要基准成绩

按官方公布的对比数据(与约 3 倍体量的模型相比):

  • Luth-2-2B 在 Multi-IF 上得分 69.67,对比 Gemma-4-E2B-it 的 65.17
  • Luth-2-0.8B 在 MGSM-Rev2 上得分 72.92,对比 granite-4.0-h-micro 的 55.60
  • Luth-2-2B 在 Math-500 上得分 81.52,对比 Gemma-4-E2B-it 的 81.24

注:上述对比基线名称与部分业界常用命名存在差异,读者可结合原文链接自行核实。

开源资源

本次发布同步提供了完整的复现与评测资源:

  • 模型权重:Luth-2-0.8B、Luth2-2-2B,以及对应的 GGUF 量化版本
  • 数据集:Luth-2 后训练 SFT 数据、Luth-2 后训练 RL 数据
  • 代码:GitHub 仓库 kurakurai/Luth-2
  • 配套博客与法语 LLM 排行榜(FR Leaderboard)

行业意义

作者指出,实验结果表明当前多语言小型语言模型(SLM)在英语以外的语言上——即便是法语这种高资源语言——仍有显著的、未被充分挖掘的能力空间。这一结论对面向特定语言的小模型迭代与本地化部署具有参考价值。

信源