Nanbeige 发布 3B 紧凑型 Agentic 模型

Nanbeige 在 Hugging Face 开源社区上线了 Nanbeige4.2-3B，这是一款参数量仅 3B（不计 embedding）的紧凑型 Agentic 模型，基于其前序基座 Nanbeige4.2-3B-Base 微调而来。该模型主打在保持小规模参数的同时，获得较强的智能体（agentic）行为能力，并兼顾通用推理与对齐效果。

模型架构：循环 Transformer

Nanbeige4.2-3B 最大的技术亮点是其 Looped Transformer（循环 Transformer）架构。该设计通过重复使用同一组 Transformer 层，在不增加参数量的前提下提升模型容量，类似于在推理时让信息在层间多次流动，从而以更小的参数预算获得接近更大模型的表达能力。

• 非 embedding 参数仅约 3B；
• 通过层复用实现容量扩展；
• 设计目标兼顾通用任务与 agentic 场景。

能力定位：通用 Agent 与代码 Agent

根据模型卡描述，Nanbeige4.2-3B 主要面向两类应用：

• General-agent 任务：在通用智能体场景下提供稳健表现；
• Code-agent 任务：在代码相关的智能体任务中展现较强的执行能力。

模型方宣称该模型在上述场景中能以约 3B 的参数量取得与更大规模模型相当的效果（标题描述为 "outperforms 4x size"，但具体对比基准未在公开材料中给出详细数据）。

信息局限

目前可获取的信息较为有限：模型卡仅提供了架构概述与定位说明，缺少具体的 benchmark 分数、上下文窗口长度、训练数据规模以及与同体量主流模型（如 Qwen2.5-3B、Llama-3.2-3B、Phi-3.5-mini 等）的横向对比。对于希望评估其在生产环境中表现的开发者而言，建议关注后续社区评测与官方技术报告。