AWS описала Ray Train Deep Learning Container — готовый контейнер для распределённого обучения моделей PyTorch на Amazon EKS. Он объединяет программные компоненты, необходимые для работы с ускорителями и обмена данными между узлами кластера.
В образ входят CUDA, совместимая сборка PyTorch, библиотека NCCL, пользовательские библиотеки Elastic Fabric Adapter (EFA), плагин AWS OFI NCCL и Ray. AWS собирает и тестирует этот стек как единый продукт, размещает его в публичном Amazon Elastic Container Registry и обновляет.
В приведённой конфигурации используется кластер EKS с оператором KubeRay и управляющим узлом на CPU, а также два узла g6.12xlarge с поддержкой EFA в одной зоне доступности. Готовый контейнер позволяет не собирать и не обновлять перечисленные зависимости вручную при настройке распределённого обучения.