桃子桃子快讯
返回首页
开源

Meta 开源 30B 智能体模型,可本地运行

Meta 发布并开源 30B 智能体模型 Muse Glimmer,采用 Apache 2.0 协议,消费级设备即可流畅…

2026.08.12 · 周三4 分钟阅读

Meta 开源 30B 智能体模型 Muse Glimmer,主打本地设备

Meta 旗下超级智能实验室近日发布并开源了 30B 参数的智能体模型 Muse Glimmer,采用 Apache 2.0 协议,允许免费商用。该模型通过 4-bit 量化将权重压缩至 20GB 以内,可在配备 RTX 5090 或 MacBook M4/M5 Max 的消费级设备上流畅运行。同步发布的还有 Meta CEO 扎克伯格的万字长文《未来属于每个人》,猛烈批评 AI 末日论与超级智能权力集中现象。

极致压缩与投机解码:让 30B 跑进个人电脑

按照常规精度,30B 模型通常需要 55GB 以上显存,远超消费级显卡承载能力。Meta 采用 4-bit 量化技术,将模型权重压缩到 20GB 以下,并声称该压缩对智能体任务性能「几乎没有造成任何衰减」。这意味着在 24GB 显存的 RTX 3090/4090 或 32GB 统一内存的 MacBook 上,用户不仅能运行模型,还能为视觉感知编码器和上下文缓存预留空间。

为解决本地推理速度瓶颈,Muse Glimmer 内置基于 DFlash 技术的轻量级草稿模型,先一次性猜测大段 Token,再交由主模型并行验证,在不损失输出质量的前提下将 RTX 5090 上的生成速度提升约 3.1 倍。MacBook M4/M5 Max 上同样可实现流畅实时对话与复杂代码生成。

面向智能体工作流的五大核心能力

Muse Glimmer 由 Meta 闭源顶级模型 Muse Spark 经「逻辑蒸馏」训练而成,专为智能体场景优化,覆盖以下能力:

  • 端到端任务完成:在 DeepSearch QA、SWE-Bench 等测试中表现优异,能从头到尾完成写代码、Debug、查资料。
  • 可靠工具调用:精准判断何时调用计算器、本地搜索或执行代码。
  • 失败恢复能力:报错或工具调用失败时,自动诊断、修改参数并重试。
  • 长程多步推理:能制定连贯的长期计划,避免中途「失忆」。
  • 多模态理解:可解读屏幕截图、图表与文档,实现图文穿插推理。

文章称 Muse Glimmer 在同体量对比中与 Gemma4-31B、Qwen3.6-27B 不相上下,智能体操作表现尤为突出。权重已上线 Hugging Face,后续将接入 Ollama、LM Studio 等本地推理工具。

扎克伯格万字宣言:超级智能应分散到每个人

伴随模型发布,扎克伯格发表长文,核心主张是:超级智能必须属于每个人,集中在少数公司才是人类最大危险。他批评部分硅谷公司以「AI 危险论」为由推动权力集中,并举例说明,若只有一人拥有「超级智能律师」,将在法庭上获得绝对优势;唯有每个人都拥有,才能实现公平。开源生态正是权力制衡的体现。

在 AI 对齐问题上,扎克伯格提出,AI 应与用户个人的目标和价值观对齐,而非与某家公司的教条对齐。他以某竞品模型因公司内部认为「标准化考试不道德」便拒绝帮用户起草学校信件为例,批评这种做法是「把公司教条强加于用户」。Meta 承诺将为个人智能体提供类似 WhatsApp 端到端加密的「完全私密模式」。

为美国 AI 监管与开源生态站台

在文章后半段,扎克伯格批评美国现行 AI 监管政策过于严苛,等同于「给竞争对手送大礼」。他公开为模型蒸馏辩护:任何 AI 模型都源于人类知识,从其他模型中学习是开源生态的基本原则,Muse Glimmer 本身即由 Muse Spark 蒸馏而来。

他警告,若美国主动设限,其他国家的开源力量将迅速填补空白,导致美国失去定义全球 AI 标准的机会。作为折中方案,他建议不限制开源模型发布,而是要求实验室提前向政府分享中间训练检查点。

信源