跳到正文
The Decoder· Manuel Uth·· 2 小时前精选AI 评分69

Inception 发布扩散语言模型 Mercury 3,称速度达 GPT-6 Luna 和 Claude Haiku 5.5 的 4 到 8 倍

Inception's Mercury 3 diffusion model claims to beat GPT-6 Luna and Claude Haiku 5.5 at a fraction of the wait

AI 导读

Inception 发布扩散语言模型 Mercury 3,称其在多项基准上超过 GPT-6 Luna 和 Claude Haiku 5.5,运行速度快 4 到 8 倍。

推荐理由

Inception 自测显示 Mercury 3 在 12 项基准中赢下 8 项,速度是竞品的 4 到 8 倍,但尚无独立验证。

正文 · AI 翻译

Inception 表示,其新语言模型 Mercury 3 在一系列基准测试中击败了 GPT-6 Luna 和 Claude Haiku 5.5,同时运行速度快四到八倍。

在公告中,该公司称 Mercury 3 是迄今为止发布的最强大的扩散语言模型。

速度源于模型的构建方式。GPT 或 Claude 等模型一次写一个词,因此每个新词都必须等待前一个词。扩散模型最广为人知的是图像生成领域。它们先勾勒出整个答案的粗略版本,然后经过多轮细化,一次生成许多词。Google 关于 DiffusionGemma 的技术报告解释了这一基本思路。

Mercury 3 的领先幅度比公告暗示的要小

Inception 自己的基准测试表呈现了更复杂的情况。在三个模型均以中等设置运行的情况下,Mercury 3 在 12 项测试中赢了 8 项。差距最大的是指令遵循。在 IFBench 上,Mercury 3 得分 76.84 分,比 GPT-6 Luna 高 15 分。它在 SWE-Bench Atlas 的自主编程测试中也明显领先,得分为 51.08 分,而竞争对手分别为 33.33 和 32.26。

Claude Haiku 5.5 在更长的编程测试 DeepSWE 中获胜。它在长文本中查找信息方面也更胜一筹。GPT-6 Luna 在 Artificial Analysis 的两项测试中略占优势。Inception 的简短概述更为谨慎,称 Mercury 3 的质量与对手相当或更好。

在 Inception 自己的测试中,Mercury 3 在 12 项基准测试中领先 8 项。| 图片:Inception

据 Inception 称,Mercury 3 在 Nvidia GPU 上每秒生成 1,068 个 token。在该公司的对比中,Claude Haiku 5.5 约为 240 个,GPT-6 Luna 约为 130 个。目前尚无独立测试。

Inception 表示,Mercury 3 的参数数量是 Mercury 1 的 40 多倍,但运行速度同样快。自小型 Mercury 1 mini 以来,性能也提升了两倍。Inception 认为这表明扩散模型像标准语言模型一样,会随着规模扩大而可靠地提升。确切的参数数量仍未披露。

Mercury 3 瞄准小延迟会累积的应用场景

Inception 主要将 Mercury 3 定位用于 AI 智能体、搜索、客户支持和辅导。AI 智能体通过许多独立步骤完成任务,并在每一步等待模型。这些小的延迟会迅速累积。

早期访问合作伙伴在公告中分享了他们的结果,其中大多数也关注速度。Octen AI 为智能眼镜构建搜索功能。“在智能眼镜上,一个需要五秒钟的答案感觉就像坏了,”创始人 Kuan Zou 说。他表示搜索本身只花了约 80 毫秒,语言模型才是瓶颈。使用 Mercury 3 后,中位响应时间为 0.9 秒。整个过程耗时 2.2 秒。

教育公司 General Learning 表示,它现在能在约一秒内向学生提供提示和纠正。客户服务提供商 Lorikeet 报告响应时间更快,结果也更好。在 TinyFish AI,联合创始人 Shuhao Zhang 表示,Mercury 3 被赋予了 50 个真实网站上的导航任务。它解决了 25 个,击败了 GPT-6.1-Sol。Zhang 没有给出 OpenAI 模型的具体数字。

Mercury 3 的低首发定价可能不会持续

常规价格为每百万输入 token 0.20 美元、每百万输出 token 0.70 美元。Inception 在发布时将价格减半。该公司尚未说明折扣何时结束。此后,Mercury 3 的输出成本将高于 GPT-6 Luna 和 Claude Haiku 5.5,至少在较短输入的情况下如此,因为这两者都收费 0.50 美元。不过,对于非常长的提示词,这两个竞争对手的收费要高得多。Mercury 3 一次最多可处理 100 万个 token。

该模型可在 Inception 自有平台以及 OpenRouter、Baseten 和 Vercel 上使用。它使用与 OpenAI 模型相同的 API,因此 Inception 表示开发者可以轻松切换。

今年 2 月,Inception 发布了 Mercury 2,并称其为首个在回答前通过中间步骤进行推理的扩散模型。在此之前,这家初创公司筹集了 5000 万美元。投资方包括 NVentures、M12 和 Snowflake Ventures,分别是 Nvidia、Microsoft 和 Snowflake 的风险投资部门。

Google 也在研究同样的方法。其 Gemini Diffusion 演示之后,6 月又推出了开放模型 DiffusionGemma。Google 表示,它的运行速度最高可达标准 Gemma 4 的四倍,但结果略弱。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER,即可享受无广告阅读、每周 AI 新闻简报、每年六次独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

来源:The Decoder · the-decoder.com