AI at Meta· @AIatMeta · X·· 2 小时前精选AI 评分72
AI 导读
Meta 发布 Muse Glimmer 技术报告，这是一个面向消费级硬件智能体任务的 30B 开源权重模型。该模型在 4-bit 精度下可在配备单张消费级 GPU 的 Mac 或 PC 上以实用速度运行，并在工具调用和多步规划上领先同尺寸开源模型。报告涵盖模型架构、蒸馏配方和量化等内容。
推荐理由
技术报告公开了 30B 开源权重模型的架构、蒸馏配方与量化方案，可供关注端侧智能体的开发者参考。
正文 · AI 翻译
今天我们发布了一份关于 Muse Glimmer 的技术报告，这是我们为消费级硬件上的智能体任务构建的 30B 开放权重模型。
它能在 Mac 或配备单块消费级 GPU 的 PC 上以 4 位精度以实用速度运行，并在工具使用和多步规划方面领先于同等规模的开放模型。
了解模型架构、蒸馏配方、量化等内容：https://go.meta.me/4Bcvxol
来源：AI at Meta · x.com