NVIDIA Agent Toolkit 扩展,新增 Agent Knowledge Foundation 等工具
NVIDIA Agent Toolkit Expands, Grounding Enterprise Agents in Company Data
NVIDIA 扩展开源 Agent Toolkit,新增 Agent Knowledge Foundation,结合 CUDA-X 库与 Nemotron Retriever、Kumo 系列开放模型,让企业无需迁移数据即可把公司数据转化为智能体可用的信息。
原文列出 Agent Toolkit 新增组件与 Palantir、Snowflake 等企业落地方式,可了解企业智能体如何接入自有数据。
智能体的价值取决于它所掌握的知识,其可信度则取决于它所运行所处的边界。
领先企业正在使用开源 NVIDIA Agent Toolkit——现已扩展新工具——来定制和控制智能体,利用公司数据为其回答和行动提供依据,监控其行为并治理其运作方式。
NVIDIA Agent Toolkit 包含:
- 全新的 NVIDIA Agent Knowledge Foundation 及 NVIDIA CUDA-X 库
- NVIDIA 开放模型,包括 Nemotron Retriever 和全新的 Kumo 系列
- NVIDIA OpenShell 安全智能体运行时
- NVIDIA NemoClaw 安全智能体蓝图
- 工具与技能,如 NeMo Relay 和 NeMo Compass
要开发能够完成实际工作、且从开发到部署都值得信赖的智能体,构建者需要一个开放的智能体技术栈,将模型、运行框架、运行时、数据和工具整合在一起。
NVIDIA Agent Knowledge Foundation 帮助企业将数据转化为智能体可用的企业智能。智能体可以找到相关信息,理解其对业务的意义,并利用它做出预测、帮助人们决定下一步行动。企业无需迁移数据、重建现有工作流或更改治理控制,即可使用 Agent Knowledge Foundation。
该基础包含 NVIDIA CUDA-X 库,包括 cuDF、cuGraph、cuML、cuOpt 和 cuVS,以及全新的 Auto-Ontology 库,后者可将原始企业数据转化为熟悉的业务概念——如客户、产品和订单——并映射它们之间的关系。
它还包含 NVIDIA Nemotron Retriever 和 Kumo Structured 开放模型——Kumo Tabular、Kumo Relational、Kumo Time Series 和 Kumo Forecast——帮助智能体找到相关的公司信息以回答问题并做出预测。
OpenShell 提供安全的运行时边界,让企业能够控制智能体可以访问和做什么。NVIDIA NemoClaw 蓝图提供用于构建安全、专用智能体的参考设计。最新的 NemoClaw 智能体优化蓝图提供了逐步起点,用于提升智能体智能——使其随时间推移在工作中表现更好。
企业采用 NVIDIA Agent Knowledge Foundation
全新的 NVIDIA Agent Knowledge Foundation 已在各企业投入使用。
借助 Palantir,NVIDIA 供应链组织 正通过 Palantir Foundry、Ontology 和 AIP 使用 Agent Knowledge Foundation 来部署专用智能体,从专有数据中生成可执行的智能洞察,预测结果并优化决策。
Databricks 将 NVIDIA Kumo Anomaly 与 Databricks Genie Ontology 相结合,为上下文感知智能体提供支持。
Snowflake 正在让客户能够在他们的 Snowflake Notebook 环境中使用 NVIDIA Kumo Engine 和 Kumo Relational 开放模型,以解锁更多预测能力。
NVIDIA Nemotron Retriever 模型使搜索更快、更准确。借助嵌入模型,Amazon OpenSearch Service 以更少的搜索步骤提升了相关性,且几乎没有增加延迟。SAP 的 微调重排序器运行速度提升了近 3 倍。ServiceNow 在提升重排序质量的同时,将延迟降低了近四分之一。Zoom 正在使用 Nemotron Retriever 模型来改进 Zoom AI Services 的文档理解、搜索相关性和上下文检索。
Amazon Web Services (AWS)、ClickHouse、Cloudera、Cohesity、Dassault Systèmes、Dell、 Elastic、Exa、IBM、NetApp、Oracle、Perplexity、Starburst 和 VAST Data 也在基于 Agent Knowledge Foundation 进行构建的厂商之列。
加入这场 GTC Berlin 会议,了解如何在生产环境中构建、部署和优化专用智能体,以了解更多信息。
来源:NVIDIA Blog · blogs.nvidia.com