AWS 发布 Ray Train DLC，在 EKS 上用 EFA 做分布式训练

AWS 发布 Ray Train DLC 镜像（train-ml-cuda-v1.1），预集成 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 以及 EFA 和 AWS OFI NCCL 插件，用户无需自行构建镜像。AWS 同时给出在 EKS 上使用该镜像做多节点分布式训练的示例：在两台 g6.12xlarge 实例的 8 块 NVIDIA L4 GPU 上，用 PyTorch FSDP 微调 Qwen2.5-1.5B。 按 AWS 给出的条件，运行该示例需要 96 个 G 系列按需 vCPU 配额，并且所在区域至少有一个可用区提供 g6.12xlarge；GPU 实例运行期间，连同 EKS 控制平面和 NAT Gateway，每小时约花费 9.50 美元。AWS 称，deploy_all.sh 默认不会运行训练任务。

AI 根据报道生成 · 5 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。