跳到正文
AI at Meta· @AIatMeta · X·· 3 小时前精选AI 评分72
AI 导读

Meta 发布 Muse Glimmer 技术报告,这是一个面向消费级硬件智能体任务的 30B 开源权重模型。该模型在 4-bit 精度下可在配备单张消费级 GPU 的 Mac 或 PC 上以实用速度运行,并在工具调用和多步规划上领先同尺寸开源模型。报告涵盖模型架构、蒸馏配方和量化等内容。

推荐理由

技术报告公开了 30B 开源权重模型的架构、蒸馏配方与量化方案,可供关注端侧智能体的开发者参考。

正文 · 原文

Today we published a technical report on Muse Glimmer, our 30B open-weight model built for agentic tasks on consumer hardware.

It runs at practical speeds on a Mac or PC with a single consumer GPU at 4-bit precision, and leads comparably-sized open models on tool use and multi-step planning.

Read about the model architecture, distillation recipe, quantization and more: https://go.meta.me/4Bcvxol

来源:AI at Meta · x.com