Amazon Web Services объявила о поддержке Seekable OCI (SOCI) для заданий обучения и обработки данных в SageMaker AI. По заявлению компании, технология сокращает время запуска: вместо ожидания полной загрузки контейнера задание может начать работу за секунды.

SageMaker AI загружает сначала файлы, необходимые для запуска контейнера, а остальные передаёт в фоне по мере выполнения кода. Подключить функцию можно с предварительно проиндексированным контейнером AWS Deep Learning Containers либо добавив индекс к собственному образу. Менять описание задания, точку входа или каналы данных не требуется.

Загрузка образов до начала работы занимает оплачиваемое время и задерживает запуск задач машинного обучения. В AWS рассчитывают, что SOCI-индексация сократит эти задержки и связанные с ними расходы, однако в сообщении не приводятся количественные оценки экономии.