跳到正文
NVIDIA Blog· John Fanelli·· 2 小时前精选AI 评分58

NVIDIA 扩展机密计算,推出 Confidential Bare Metal 部署选项

NVIDIA Confidential Computing Expands, Enabling Frontier Model Builders to Securely Scale Across Global Infrastructure

AI 导读

NVIDIA 扩展机密计算能力,新增 Confidential Bare Metal 部署选项,让前沿模型构建方在第三方专用基础设施上运行敏感负载时仍掌控模型与数据。

推荐理由

原文给出三种部署形态与多家云厂商支持范围,读者可据此判断机密计算在模型训练与推理中的落地边界。

正文 · AI 翻译

NVIDIA 构建工具,助力安全智能体贯穿整个技术栈。今日宣布的 NVIDIA OpenShell 参考架构,是 NVIDIA 不断扩展的技术组合的一部分,旨在帮助组织大规模安全部署智能体。NVIDIA 机密计算是保护这些智能体在运行时所需模型和数据的基础设施层。

今日,NVIDIA 通过 Confidential Bare Metal 扩展了这一层,这是 NVIDIA 机密计算的一项新部署选项,使前沿模型构建者能够在专用第三方基础设施上运行敏感工作负载,同时保持对模型和数据的控制。 

NVIDIA 推出新的平台安全控制措施,可保护传输中的数据、度量平台完整性并实施硬件级访问限制。这些新控制措施让前沿模型构建者在第三方云、neocloud 和企业基础设施上运行 NVIDIA 加速计算基础设施时,能够使用裸金属实例来拥有和运营其定制软件栈,包括主机和平台基础设施软件。 

阅读 NVIDIA 在欧洲的全部公告

NVIDIA 机密计算现提供融合安全架构,包含三种部署选项: 

  • 面向裸金属基础设施的 Confidential Bare Metal
  • 面向 Kubernetes 环境的机密容器
  • 面向虚拟化环境的机密虚拟机

组织可以根据自身的信任边界和运营需求匹配正确的模型。

NVIDIA 机密计算还在扩展至 NVIDIA Grace Blackwell 和 Rubin 系统,并将与 NVIDIA DSX OS 集成,作为云提供商构建 AI 工厂的参考架构。

模型构建者利用全球算力

Confidential Bare Metal 为受支持的提供商提供了一条路径,以服务需要强模型和数据隐私保护的高价值工作负载。对于模型构建者而言,不断扩展的生态系统提供了更多地理、主权和运营选项,以便在全球范围内扩展训练和推理。

Cohere 计划将 Confidential Bare Metal 集成到 Cohere Model Vault 中,利用 NVIDIA 机密计算可信执行环境将硬件级安全直接扩展到 GPU——在执行期间保护内存中和跨互连的模型与数据。

“企业信任 Cohere 提供安全且保密的推理平台,” Cohere 首席技术官 Phil Blunsom 表示。“通过在 Cohere Model Vault 中采用 NVIDIA 机密计算,我们将硬件级安全直接扩展到 GPU,在执行期间保护内存中和跨互连的客户数据。”

Google Cloud 正在将 Confidential Bare Metal 的支持扩展到由 NVIDIA GB300 NVL72 系统驱动的 A4X Max 实例。这些实例将把非虚拟化的 NVIDIA 加速计算与针对训练数据和模型知识产权的加密保护相结合。

“Google Cloud 推出 Confidential Bare Metal,为 AI 实验室提供硬件隔离、非虚拟化的计算环境和端到端加密保护。我们的 A4X 实例基于 NVIDIA Confidential Computing 构建,可保护用户数据的隐私、保护模型知识产权,并提供顶级的推理服务性能,” Google Cloud 杰出工程师兼 AI 基础设施安全负责人 Andrés Lagar-Cavilla 表示。

Confidential Computing 扩展至整个 NVIDIA 平台

NVIDIA Confidential Computing 利用基于硬件的隔离和加密认证,帮助在执行期间保护模型和数据。

支持范围现已扩展至 NVIDIA Grace Blackwell NVL72——将 Confidential Computing 引入 NVL72 机架级系统——以及基于 x86 的 NVIDIA HGX Rubin NVL8 和 NVIDIA DGX Rubin NVL8 系统。

CoreWeave、Firmus、GMI Cloud、Google Cloud、IREN、Lambda、Microsoft Azure Infrastructure、 Nebius、Nscale 和 Vultr 均支持 NVIDIA Confidential Computing 部署。包括 Cisco、Dell Technologies、HPE、 Lenovo、 Supermicro 和 Bull 在内的全球系统合作伙伴将通过 NVIDIA-Certified Systems 支持这些功能。

NVIDIA DSX OS 将支持所有 NVIDIA Confidential Computing 模式,为云服务提供商提供构建和运营支持机密工作负载的 AI 工厂的软件基础。

详细了解 NVIDIA Confidential Computing。

阅读 NVIDIA 在欧洲的全部公告

来源:NVIDIA Blog · blogs.nvidia.com