AWS 发布 Ray Train DLC 与 EFA 的 EKS 训练示例

AWS 发布 Ray Train 深度学习容器（DLC），镜像标签 train-ml-cuda-v1.1，内置 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 及 EFA 与 AWS OFI NCCL 插件，已在 Amazon ECR Public 公开，节点无需凭证即可拉取。 AWS 同时给出在 EKS 上使用该镜像的示例：在两台 g6.12xlarge 实例的 8 块 NVIDIA L4 GPU 上，用 PyTorch FSDP 微调 Qwen2.5-1.5B。按 AWS 的说法，GPU 实例运行期间每小时约花费 9.50 美元，涵盖两台实例、EKS 控制面和 NAT Gateway；需要 96 个 G 系列按需 vCPU 配额，且所在区域至少有一个可用区提供该实例。 AWS 称 deploy_all.sh 默认不运行训练任务，需另行启动。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。