跳到正文
NVIDIA Blog· NVIDIA Writers·· 2 小时前精选AI 评分62

NVIDIA 在 OCP 全球峰会开放 Vera Rubin 架构并发布多项 AI 工厂合作

OCP Global Summit: Amid Ecosystem Adoption, NVIDIA Opens Vera Rubin Architecture to Help Scale AI Factories Worldwide

AI 导读

NVIDIA 在 OCP 全球峰会上通过开放的 NVIDIA MGX 架构,向 OCP 贡献了 Vera Rubin 机架和计算托盘设计,为系统厂商提供下一代 AI 工厂基础设施的共同基础。

推荐理由

NVIDIA 在 OCP 峰会上把 Vera Rubin 机架与计算托盘设计开放给 MGX 架构,读者可据此了解 AI 工厂基础设施的开放路径。

正文 · AI 翻译

随着 AI 工厂从兆瓦级扩展到吉瓦级,建设它们所需的远不止先进计算。开放标准正在帮助行业更快、更高效、更可靠地扩展 AI 基础设施。

在圣何塞麦克内里会议中心举行的开放计算项目(OCP)全球峰会上,NVIDIA 宣布了新的合作伙伴关系和贡献,旨在为下一代 AI 基础设施打造共同基础。 

NVIDIA 通过开放 NVIDIA Vera Rubin 机架和计算托盘设计,经由开放 NVIDIA MGX 架构贡献给 OCP,为系统构建者提供了开发下一代 AI 工厂基础设施的共同基础。

这些努力共同覆盖了 AI 工厂本身、为其供电的电网,以及现代加速计算核心的机架级架构。

NVIDIA 与合作伙伴宣布开放架构进展 

在 OCP 活动上,NVIDIA 与合作伙伴发布了一系列公告: 

  • NVIDIA 与超大规模云服务商发布了下一代 AI 工厂的开放标准,包括 AI 工厂设计标准和电网韧性。 
  • NVIDIA 为 NVIDIA DSX AI Factory 推出了新的开源软件组件。 
  • Meta 与 NVIDIA 通过 NVIDIA Spectrum-X 以太网 SuperNIC 和 Spectrum-6 创新推进开放 AI 网络。
  • Visionbay 推出了面向 Vera Rubin 时代的 800V 直流 AI 工厂设计。
  • NVIDIA 与 Cisco 宣布了超密集小型可插拔(USFP)标准,这是业界首个面向 400Gb/s 网络架构的模块。
  • NVIDIA 与 Google 宣布未来的 NVIDIA ConnectX-10 SuperNIC 和 BlueField DPU 将支持 Falcon Transport。

在座无虚席的观众面前,NVIDIA 超大规模与高性能计算副总裁 Ian Buck 讨论了开放基础设施如何成为全球扩展 AI 工厂的关键要素。 

OCP 上的这一消息凸显了 NVIDIA 的极致协同设计结合开放标准,如何加速部署、提升能效并推动每瓦 token 性能。


Vera Rubin AI 工厂借助 OCP 上的 MGX 机架贡献取得进展

NVIDIA 与行业领导者共同通过 OCP 的 Open DC Initiative 为第三代 MGX AI 数据中心参考设计做出贡献。

结合 MQD 和 MQDB 等开放液冷技术,这一努力有助于将经过验证的 AI 工厂设计转化为行业标准,供其他方采用、制造和扩展。

对于 NVIDIA Vera Rubin AI 工厂,更新后的 MGX 1.2 规范通过机架级盲插液冷、可互操作的机架级互连基础设施以及专为更高功率 AI 系统设计的液冷 5,000A 母线,扩展了 AI 工厂的开放架构。它还增加了原生 19 英寸设备支持和更高密度的机架设计。

MGX 1.2 通过可配置 I/O 插槽、无风扇液冷计算托盘、标准化电源和散热接口,以及帮助生态伙伴构建可互操作加速计算平台的通用基础设施,进一步扩展了模块化能力。它缩短了组装、测试和服务时间,从而简化制造与现场服务,实现更快、更高效的基础设施部署。该架构支持高达 250kW 的机架部署,同时简化可维护性、部署和基础设施复用。

Vera CPU 机架设计规范将 NVIDIA MGX 开放架构扩展到加速计算之外,为不断增长的代理式 AI 时代提供专用平台。Vera Rubin NVL72 作为大规模训练和推理的基础,而 NVIDIA Vera CPU 机架则旨在支持工具调用、编排和沙箱执行,帮助 AI 代理实时与应用、数据和服务交互。

基于第三代 NVIDIA MGX 机架架构构建,Vera CPU 机架共享相同的机架级设计原则,将计算、网络、电源和散热统一到一个通用模块化平台中。这种方法使合作伙伴能够部署专用基础设施,同时受益于共享生态、简化集成以及面向下一代 AI 工厂的一致基础。


NVIDIA 为 DSX AI 工厂推出全新开源软件组件

NVIDIA DSX AI 工厂平台 应用极致协同设计,统一计算、网络、电源、散热、设施和软件,帮助 AI 工厂作为单一优化系统运行,在现有基础设施约束下最大化 AI 产出。 这一统一系统的核心是 DSX OS,这一开放操作层将 DSX 架构转化为规模化协调、可重复的运营。

在 OCP 上,NVIDIA 扩展了 DSX OS,新增用于配置网络、验证集群、管理机架和裸金属置备的开源组件: 

这些开源组件源自 NVIDIA 运营 NVIDIA DGX Cloud 的经验,使云提供商和软件合作伙伴能够将 AI 工厂能力直接集成到其多租户平台中。 

开发者可以访问 DSX AI Factory Github 页面,探索并为 NVIDIA DSX AI Factory 平台的新旧开源软件组件做出贡献。


NVIDIA 与超大规模云服务商发布下一代 AI 工厂开放标准

要让 AI 基础设施实现全球规模化,需要的不仅仅是先进硬件——它还需要一个整个行业都能在此基础上构建的共同基础。

在 OCP 上,NVIDIA 与 AMD、Google 和 Meta 共同发布了一项新开放规范,以建立这一基础。Open Data Center Specification v0.7 为下一代 AI 工厂设施设计定义了统一蓝图——从电力架构到冷却基础设施,再到物理布局。 

由 Google、Meta、Microsoft 和 NVIDIA 发布的 OCP Grid Resilience Specification,确立了大规模 AI 基础设施在公用电网扰动期间应如何表现:保持连接、自动响应,并在不到两秒内恢复到接近满负载。

随着这些标准现已开放,全球制造商有了共同的构建目标。设备制造商、托管服务提供商和数据中心运营商可以开始设计、制造并交付为全球正在建设的 AI 工厂提供动力的基础设施层——无需等待来自个别客户的专有规范。

这些规范与 NVIDIA DSX 参考设计兼容,提供了两项规范的经过验证、可部署的实现,涵盖设施布局和电力架构,以及实时监控和响应电网信号的软件。对于正在构建 Vera Rubin AI 工厂的运营商来说,现在从开放社区标准到运行系统之间已有了一条直线路径。


Visionbay.ai 为 Vera Rubin 时代设计 800VDC AI 工厂

随着 AI 工厂变得更大、更强大,一个挑战笼罩着所有这一切:为驱动下一代 AI 的加速计算系统提供足够的电力。

在 OCP 上,Visionbay 公布了 K-1 计划,这是一个下一代 AI 工厂平台,围绕 800 VDC 架构 设计,并考虑了未来 NVIDIA Vera Rubin 部署。该项目将 NVIDIA 的 800 VDC 参考架构与 Vertiv 的电源和散热技术相结合,为高密度 AI 基础设施打造可扩展的基础。

该设计解决了行业日益增长的挑战。随着 AI 训练、推理和思考工作负载扩展,机架功率密度持续上升。传统的低压配电越来越难以扩展,需要更多铜、更多线缆和更多电源转换设备。

通过采用 NVIDIA 的 800 VDC 架构,K-1 开辟了一条通往更高密度 AI 基础设施的道路,同时为现有部署保留了灵活性。该平台并非要求第一天就完成全面过渡,而是设计为在能带来最大收益的地方逐步引入 800 VDC 配电,帮助运营商为未来几代加速计算做好准备,而无需进行大规模设施改造。

该架构围绕集群级电源中心设计,将 AC-DC 转换集中化,并将 800 VDC 配电更靠近计算资源。这种方法简化了下游电力输送,支持模块化扩展,并为未来 AI 工厂的增长创造了可重复的构建模块。

K-1 也体现了 NVIDIA AI 工厂背后的系统级设计理念,即电力、冷却和计算协同设计。凭借对液冷基础设施、可扩展配电以及未来 Vera Rubin 级部署的支持,该项目展示了生态合作伙伴如何将 NVIDIA 的 AI 工厂架构转化为面向下一代加速计算的可部署基础设施。


Meta 与 NVIDIA 借助 Spectrum-6 和多平面技术推进 AI 网络

在活动上,Meta 和 NVIDIA 宣布,Meta 正在采用 NVIDIA Spectrum-6 102.4Tb/s 以太网交换机,在开放网络上构建更大、更高性能的 NVIDIA Vera Rubin AI 工厂。 

Spectrum-6 的交换容量和每通道带宽是 Spectrum-4 的两倍,并提供每通道 200G 的无损以太网 AI 网络架构,具备高有效带宽和性能隔离能力,可防止一个任务的流量拖慢另一个任务。

Meta 基于 Spectrum-6 的交换机 N-IceCube 可插入 IcePack,即 Meta 的 100T 液冷机架。N-IceCube 运行 Facebook Open Switching System(FBOSS),这是 Meta 贡献给 OCP 的开源网络操作系统,用于支持超大规模下的高效网络。 

FBOSS 构建在 Switch Abstraction Interface 之上,这是 NVIDIA 协助开发的 OCP 标准,提供了一种独立于厂商的交换机硬件控制方式。这些技术共同支持超过 100,000 个 GPU 的代理式 AI 工厂,用于训练和 serving 大规模 mixture-of-experts 模型。

此次公告标志着双方合作迈出下一步,将 Meta 在超大规模下运营 AI 基础设施的经验与 NVIDIA 的网络技术相结合。

这项合作的核心是 Spectrum-X Multiplane 技术,由 Spectrum-6 交换机和 ConnectX-9 SuperNIC 提供支持。Multiplane 在硬件中将 GPU 流量分布到最多八个独立网络平面,使 AI 工厂能够以更少的交换机层级和更低的基础设施成本扩展到超过 100,000 个 GPU。GPU 之间的多条路径提高了网络利用率和韧性:当某个组件发生故障时,流量会转移到其余平面,使 GPU 保持高效工作、AI 应用持续运行,即使带宽有所降低。

Meta 和 NVIDIA 通过部署经验和快速工程迭代共同增强了这种韧性。双方团队在本地和云环境中验证了相关改进。 

“我们很高兴与 NVIDIA 紧密合作,使多平面网络在运营上可扩展且性能卓越,这对我们自身的基础设施建设以及我们的联合云合作伙伴来说都是一项关键需求,”Meta 数据中心与 AI 网络高级总监 Omar Baldonado 表示。“将 FBOSS 扩展到 Spectrum ASIC 意味着我们可以在自己的网络中运行同一套软件栈,而 Meta 基于 Spectrum 的新交换机 N-IceCube 将其引入 Icepack——这是我们用于横向扩展的液冷 102.4T 网络机架,可连接我们集群中即将推出的几代加速器。”

Meta 和 NVIDIA 正在共同开发一套架构和运营手册,供其他 AI 基础设施运营商采用,将严苛生产工作负载中的经验转化为更具可扩展性、韧性和效率的 AI 工厂。


借助 USFP,NVIDIA 和 Cisco 为 AI 工厂规模重新发明可插拔光模块

随着 AI 工厂扩展以支持更大的模型和激增的推理需求,基础设施栈中的每个组件都必须提供更高的性能、效率和简洁性——直至网络连接本身。 

在 OCP 上,NVIDIA 和 Cisco 宣布了计划,推出 USFP,这是一种新的光学可插拔收发器模块外形规格,旨在帮助 AI 工厂建设者扩展下一代 AI 网络,同时提高带宽密度和能效。

USFP 的占位面积与广泛采用的每通道 200Gb/s 的 OSFP 外形规格大致相同,将提供通往每通道 400Gb/s 网络的路径,并扩展已在几代数据中心网络中得到验证的基于收发器的部署模式。USFP 封装 16 条全双工通道,并计划扩展到 32 条通道,将提供传统每通道 200Gb/s 可插拔光模块四倍的带宽密度。 

其结果是能够连接更多计算资源,而无需增加可能提高延迟、功耗和复杂性的网络层级。

这种新外形规格专为下一代 AI 工厂的规模和效率需求而设计,支持更高带宽的网络,同时保留使可插拔光模块成为现代数据中心支柱的灵活性和可维护性。它还将提供约 1.3 倍的能效提升,帮助运营商以更少能源传输更多数据。   

为帮助推动开放生态系统,NVIDIA 和 Cisco 正与 TE Connectivity 和 Amphenol 在笼架、连接器和模块方面展开合作,并计划通过社区主导的多源努力推进 USFP。这些公司正在共同为更具可扩展性、效率和互操作性的 AI 工厂网络奠定基础。


Google Falcon Transport 支持 NVIDIA ConnectX-10,实现可互操作的 AI 网络

NVIDIA 和 Google 还宣布,未来的 NVIDIA ConnectX-10 SuperNIC 和 BlueField DPU 将支持 Falcon Transport,帮助提高大规模 AI 基础设施的网络效率。 

Falcon 是一种传输协议,旨在通过以太网可靠地传输数据,而以太网在拥塞时可能会丢包。它通过多路径负载均衡、可编程拥塞控制、硬件丢包恢复和每连接安全性来支持 AI 和存储工作负载。

此次合作将 NVIDIA 硬件加速与 DOCA 软件相结合,以实现 Falcon,并将 NVIDIA 网络扩展到 Google 的 数据中心传输。NVIDIA 和 Google 网卡可以通过通用传输进行通信,同时应用程序保留标准 RDMA 编程接口。

通过跨路径分配流量、适应拥塞、恢复丢失的数据包并保护连接,Falcon 帮助工作负载更好地利用可用带宽,并在以太网架构扩展时保持可预测的性能。

加入 OCP 上的 NVIDIA 了解更多。

来源:NVIDIA Blog · blogs.nvidia.com