模型发布
Luth-2 系列发布:法语小尺寸 SOTA 模型开源
Luth-2-0.8B 与 Luth-2-2B 在多项法语基准上刷新同尺寸最佳成绩,基于 Qwen3.5 骨干并开源权重…
2026.08.11 · 周二约 3 分钟阅读
法国小型语言模型 Luth-2 系列正式发布,包含 0.8B 与 2B 两个参数版本,在多项法语基准测试中刷新同尺寸模型的最佳成绩,并同步开源权重、后训练数据与训练代码。
模型概览
Luth-2 系列此次推出两款非推理(non-reasoning)模型:
- Luth-2-0.8B:约 8 亿参数,可在端侧设备本地运行
- Luth-2-2B:约 20 亿参数,同样面向本地与边缘部署
两款模型均基于 Qwen3.5 作为骨干网络进行后训练,覆盖数学、知识、代码、工具调用、指令跟随、多轮对话与科学等领域。作者表示,相比其他候选骨干,Qwen3.5 对后训练「接收度更高」。
训练方法
Luth-2 在前代基础上引入了多项实质性改进:
- 新增 3B token 的 SFT 混合数据集,扩大领域覆盖范围
- 引入专家特化(expert specialisations)强化学习路径
- 采用多域 on-policy 蒸馏(MOPD)进一步扩展模型能力
官方称,模型在所选法语基准上击败了同尺寸级别的所有对比模型,并在多项指标上与更大体量模型保持竞争力。
主要基准成绩
按官方公布的对比数据(与约 3 倍体量的模型相比):
- Luth-2-2B 在 Multi-IF 上得分 69.67,对比 Gemma-4-E2B-it 的 65.17
- Luth-2-0.8B 在 MGSM-Rev2 上得分 72.92,对比 granite-4.0-h-micro 的 55.60
- Luth-2-2B 在 Math-500 上得分 81.52,对比 Gemma-4-E2B-it 的 81.24
注:上述对比基线名称与部分业界常用命名存在差异,读者可结合原文链接自行核实。
开源资源
本次发布同步提供了完整的复现与评测资源:
- 模型权重:Luth-2-0.8B、Luth2-2-2B,以及对应的 GGUF 量化版本
- 数据集:Luth-2 后训练 SFT 数据、Luth-2 后训练 RL 数据
- 代码:GitHub 仓库 kurakurai/Luth-2
- 配套博客与法语 LLM 排行榜(FR Leaderboard)
行业意义
作者指出,实验结果表明当前多语言小型语言模型(SLM)在英语以外的语言上——即便是法语这种高资源语言——仍有显著的、未被充分挖掘的能力空间。这一结论对面向特定语言的小模型迭代与本地化部署具有参考价值。
