跳到正文
TechCrunch · AI· Julie Bort·· 2 小时前同新闻AI 评分70

英伟达发布 Nemotron 3.5 Super VL 与 Bolt 系列开放权重模型,面向企业智能体与本地 PC

Nvidia launches new open models to run agents in the enterprise and on PCs

AI 导读

英伟达发布面向常驻智能体和边缘计算的开放权重模型:120B 参数的 Nemotron 3.5 Super VL 面向企业智能体,英伟达称其在指令遵循和工具调用上可达到 Nemotron 3 Ultra 相近的准确率;两款轻量 Bolt 模型用于搭载 RTX Spark 芯片的 AI PC 和 DGX Spark 工作站本地运行。

同一新闻,精选展示《NVIDIA 扩展 Nemotron 家族,发布 120B 的 Super VL 与两款 Bolt 端侧模型》

正文 · AI 翻译

英伟达周四推出了专为常驻智能体和边缘计算设计的新开放权重模型。

Nemotron 3.5 Super VL 是一款面向企业所用智能体的大型 1200 亿参数模型。虽然它的参数数量少于 Nemotron 3 Ultra 模型,但英伟达表示,它在指令遵循和工具使用任务上可以达到相近的准确度。

在另一端,该公司还推出了两款轻量级 Bolt 模型。它们旨在本地运行于搭载英伟达 RTX Spark 芯片的新款 AI PC,以及搭载 DGX Spark 的工作站上。这类面向消费者、程序员和企业知识工作者的 PC,正通过微软和戴尔等合作伙伴推向市场。

英伟达开放模型与软件副总裁 Kari Briski 在宣布这些模型的博客文章中写道:“任何想在英伟达基础设施上运行智能体的组织,现在都有了一个针对其层级优化的开放模型,无需在能力与可部署性之间做选择。”

英伟达声称,在针对特定智能体任务进行后训练后,Super VL 完成任务的速度快于 Anthropic 和 OpenAI 的竞品模型(Opus 5、GPT 6.1 Sol、Luna、Astra)。这些任务包括文档智能、财务会计、科学实验、医疗保险理赔以及安全攻击韧性。

虽然这类说法在大型科技公司发布新模型时司空见惯,但英伟达用一份重量级公司名单为其提供了佐证,称这些公司正在使用 Super VL。名单包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。

当然,这并非英伟达发布的首批与专有前沿实验室竞争的开放权重模型——这些实验室既是它的客户,也是它的投资对象。这家 GPU 巨头拥有完整的 Nemotron 模型家族,涵盖从多模态人工智能到推理、编程、数学和企业自动化等各种能力。

然而,那些快速增长的专有 AI 实验室如今正转向英伟达之外的众多其他芯片和 AI 系统制造商来满足其需求(例如 AWS 的 Trainium 和 Cerebras,以及自研芯片)。

因此,英伟达正大力押注企业希望在自己的数据中心运行自有开放模型的趋势。Briski 写道:“与封闭的前沿模型不同,组织可以在自己的数据上对 Super VL 进行后训练,将其部署在自己的基础设施上,并拥有自己所构建的东西。”

但通过发布更小的本地 PC 模型,它也在试图推动消费级 AI 助手这一新兴趋势。尽管初创公司和大型科技公司似乎每天都在推出新的 AI 助手,但注重隐私的消费者可能并不愿意让这类智能体如此深入地介入自己的生活,让它们获取有关家人、健康、财务等信息。

因此,英伟达希望通过打造能在本地运行模型和智能体的机器,为自己开辟一个销售搭载其芯片的 PC 的新市场,PC 用户“可以委派日常项目……而无需将这些工作负载发送到云端”,Briski 写道。

在这两个 Bolt 模型中,Nemotron 3.5 Bolt 74B-A9B 24GB 是一个 740 亿参数的模型,专为本地智能体任务设计。它旨在平衡速度与推理能力,以处理多步推理、工具调用和网页浏览。最小的 Bolt E4B 则面向对话式智能体。

Nvidia 表示,Super VL 和 Bolt 74B-A9B 现已可用,Bolt E4B 将于本月晚些时候推出。

当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 的初创企业/风险投资台编辑。

您可以通过发送邮件至 [email protected] 或在 X 上通过 @Julie188 联系或核实 Julie 的外联信息。

查看简介

来源:TechCrunch · AI · techcrunch.com