Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式可用
Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure
Google Cloud 与 NVIDIA 宣布基于 NVIDIA Vera Rubin 的 A5X 实例正式可用,下月上线并计划扩展至欧洲。
Google Cloud 的 A5X 实例把 Vera Rubin NVL72 与 Virgo 网络、液冷整合为面向智能体推理和强化学习的平台,并给出首个客户的使用反馈。
这些实例将于下个月正式开放使用,并计划将可用范围扩展至欧洲——为云客户带来一个集训练、推理和大规模强化学习于一体的集成平台。
A5X 实例将 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNIC、Google Cloud Virgo 网络以及 Google Cloud 第四代先进液冷技术整合在一起,用于大规模运行高要求的智能体推理和强化学习工作负载。Google Cloud 计划将其基于 Vera Rubin 的基础设施扩展至多个站点,最多部署 960,000 块 Rubin GPU。
Ineffable Intelligence 是一家总部位于伦敦的科技公司,由 AlphaGo 创造者 David Silver 创立,是首家使用 A5X 的客户。Ineffable 正在利用该平台推进大规模强化学习,并打造能够从经验中持续学习的“超级学习者”系统。
通过交互进行学习需要持续循环地生成经验、评估结果并更新模型,这要求基础设施能够大规模支撑整个流程。A5X 将 Vera Rubin 作为集成系统引入 Google Cloud 的 AI Hypercomputer,整合计算、网络和存储,以大规模支持经验驱动的学习。
“我们正在构建能够通过自身经验不断改进的超级学习者,”Ineffable Intelligence 创始人兼首席执行官 David Silver 表示。“这既需要大量算力,也需要在生成经验与基于经验进行训练之间建立紧密连接,使智能体的每一次改进都能迅速塑造其下一次经验。Vera Rubin 将计算性能与高带宽连接相结合——既包括 Vera CPU 与 Rubin GPU 之间,也包括机架内 Rubin GPU 之间——使我们能够进一步拓展强化学习研究的规模和雄心。”
总部位于伦敦的营销与传播公司 WPP 也已在基于 NVIDIA Vera Rubin 的 A5X 实例上展示了其创意智能体参考架构,使用了 NVIDIA Nemotron 模型和 NVIDIA OpenShell,后者是用于安全 AI 智能体的 NVIDIA OpenShell 参考架构 的一部分。
这些智能体将对话式请求转化为多步骤创意工作流,例如视频生成、放大和风格重塑,并在执行前经过人工批准。OpenShell 为智能体执行提供受治理的沙箱,帮助控制对敏感品牌资产和创意工具的访问。在 WPP 的初步测试中,通常需要多节点集群的工作负载在单个 A5X 实例上即可运行。
随着各组织部署智能体系统,它们需要保护驱动这些系统的专有模型和敏感数据——即使运行在并非自有的基础设施上也是如此。
Google Cloud 将成为首批在裸金属实例(例如由 NVIDIA GB300 NVL72 驱动的 A4X Max 实例)上以机架规模提供 NVIDIA 机密计算 的云服务提供商之一。此外,Google Cloud 正在由 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU 驱动的 G4 虚拟机上正式提供机密计算服务(正式可用),为机密推理和微调提供灵活的平台。包括 Vertebrae、Polaris Cloud 和 Confidential Core AI 在内的客户正在使用 Confidential G4 实现对话隐私、可验证的智能体执行以及受策略治理的企业智能。
为支持大规模能效部署,Google Cloud 与 NVIDIA 正在探索面向基于 Vera Rubin 的基础设施的NVIDIA DSX MaxLPS能力,以帮助优化每瓦性能,并在现有数据中心电力预算内扩展容量。
了解更多关于 NVIDIA Vera Rubin 和 Google Cloud A5X 实例的信息。
来源:NVIDIA Blog · blogs.nvidia.com