
【导语:Meta 的 Superintelligence Labs 放出 30B 参数的开源模型 Muse Glimmer,以 Apache 2.0 许可发布,单张消费级 GPU 就能运行。在大模型追求千亿万亿参数的当下,Meta 此举意在押注本地部署。】

在 2026 年中,大家已习惯千亿甚至万亿参数的大模型,如 Mythos 5 达 8 万亿,字节跳动在训 10 万亿。而 Meta 此时推出 30B 的密集模型 Muse Glimmer,表明其认为本地部署才是真正的战场。

Muse Glimmer 的定位是“always - on local agent”,目标场景是离线也能跑、随时待命的 AI Agent。其训练分三个阶段,预训练用了 Muse Spark 的 logit 蒸馏,中间训练塞了大量长上下文 Agent 数据和推理轨迹,后训练结合了 SFT 和强化学习。

在性能方面,它在 Agent 基准测试上跟 Qwen3.6 27B 正面竞争,在工具调用(MCP - Atlas、τ - Bench)和 SWE - Bench 上有优势。量化到 4 - bit 后,语言模型部分不到 20GB,24 - 32GB 的显卡就能跑。还带了一个 DFlash 投机解码草稿模型,RTX 5090 上提速 3.1 倍,M5 Max 上 1.8 倍。

Hacker News 社区对此展开讨论,有人怀疑 Meta 提前发布是为了抢 Qwen 的风头。同时,关于本地模型走向也有争论,mmaunder 认为“big iron era of AI”正转向小型便携模型;dofm 指出小型模型在编程助手这类任务上有根本性限制;nbardy 反对本地模型取代数据中心的说法,强调大 GPU 上的并发推理效率远高于本地独立运行。
编辑观点:Muse Glimmer 证明特定场景下 30B 模型也能有可用效果,为离线、低延迟、隐私敏感应用提供新思路,“本地还是云端”并非非此即彼。
363



被折叠的 条评论
为什么被折叠?



