Sberbank 开源 GigaChat3.5-432B-A28B，首日支持 GGUF 本地推理

俄罗斯 Sberbank 旗下的 GigaChat 团队近日在 Hugging Face 平台开源了新一代大语言模型 GigaChat3.5-432B-A28B，并同步放出基础版本（base）与 GGUF 量化版本，形成完整的本地推理支持链路。这是 Sberbank 在大模型开放权重方向的又一次更新。

模型基本规格

GigaChat3.5-432B-A28B 采用混合专家（MoE）架构，总参数量为 4320 亿，每次推理激活约 280 亿参数。与完整稠密模型相比，MoE 架构在保持较大知识容量的同时，可显著降低单次推理的计算开销。除指令微调版本外，仓库还提供未经过指令对齐的 base 版本，供研究者和开发者做进一步微调或评测。

总参数：约 432B
激活参数：约 28B
架构：MoE（混合专家）
同时提供：base 版、GGUF 量化版

本地推理支持

本次发布的一大亮点是「首日 GGUF 支持」：模型上传到 Hugging Face 的同时，社区已制作好可在 llama.cpp 中加载的 GGUF 量化权重，方便用户在消费级显卡或 CPU 环境下运行。

仓库地址：huggingface.co/ai-sage/GigaChat3.5-432B-A28B
基础版：huggingface.co/ai-sage/GigaChat3.5-432B-A28B-base
GGUF 版：huggingface.co/ai-sage/GigaChat3.5-432B-A28B-GGUF
llama.cpp 合并请求：github.com/ggml-org/llama.cpp/pull/25342

目前该 GGUF 兼容尚未合并到 llama.cpp 的主分支，用户需要按上述 PR 自行编译构建，待合并完成后即可通过官方 release 直接使用。

现阶段信息与待观察点

截至目前，Sberbank 与社区公开的细节仍较为有限，尚未公布模型在主流基准（如 MMLU、GSM8K、HumanEval 等）上的成绩，也没有提供上下文长度、训练数据规模与许可协议等关键参数。对于希望本地部署的开发者，建议先关注以下几项后续披露：

上下文窗口大小与 RoPE 缩放配置
训练 token 数与多语言覆盖比例
模型许可证（是否允许商用、再分发）
GGUF 各量化档位（Q4、Q5、Q8）的显存占用参考

对关注俄语大模型与本地推理生态的用户而言，GigaChat3.5-432B-A28B 的开源是一次值得跟踪的更新，但其在国际开源社区的实际采用程度，仍取决于后续基准表现与许可条款。