AWS описала переиспользуемую конструкцию для AWS Cloud Development Kit (CDK), которая координирует автоматическое масштабирование конечных точек Amazon SageMaker AI при обновлении их конфигурации. Для этого применяются пользовательские ресурсы AWS CloudFormation, автоматически снимающие и повторно регистрирующие цель масштабирования.
Проблема возникает при изменении типа или количества экземпляров либо переменных среды конечной точки. SageMaker AI требует предварительно отменить регистрацию целевого ресурса Application Auto Scaling, однако после этого CloudFormation теряет возможность отслеживать соответствующие ресурсы, что может привести к сбою развертывания.
Предложенный подход позволяет обновлять конфигурацию конечной точки и параметры автоскейлинга в одном развертывании, без ручной регистрации ресурсов. Материал представляет практическое решение для команд, управляющих инфраструктурой SageMaker AI средствами AWS CDK и CloudFormation.