AI at Meta· @AIatMeta · X·· 3 小时前精选AI 评分72
AI 导读
Meta 发布 Muse Glimmer 技术报告,这是一个面向消费级硬件智能体任务的 30B 开源权重模型。该模型在 4-bit 精度下可在配备单张消费级 GPU 的 Mac 或 PC 上以实用速度运行,并在工具调用和多步规划上领先同尺寸开源模型。报告涵盖模型架构、蒸馏配方和量化等内容。
推荐理由
技术报告公开了 30B 开源权重模型的架构、蒸馏配方与量化方案,可供关注端侧智能体的开发者参考。
正文 · 原文
Today we published a technical report on Muse Glimmer, our 30B open-weight model built for agentic tasks on consumer hardware.
It runs at practical speeds on a Mac or PC with a single consumer GPU at 4-bit precision, and leads comparably-sized open models on tool use and multi-step planning.
Read about the model architecture, distillation recipe, quantization and more: https://go.meta.me/4Bcvxol
来源:AI at Meta · x.com