OpenAI анонсировала запуск кросс-региональных моделей GPT-5.6 на платформе Amazon Bedrock, которые теперь доступны более чем в 25 регионах AWS. Модели Sol, Terra и Luna предлагают различные варианты производительности и стоимости, что позволяет пользователям выбирать оптимальное решение для своих нужд.
Кросс-региональная инференция (CRIS) в Amazon Bedrock работает через профили инференции, которые определяют модель и регионы AWS, куда может быть направлен запрос. Это позволяет улучшить пропускную способность и поддерживать стабильную производительность, используя вычислительные ресурсы из разных регионов, а не ограничиваясь лишь одним.
Данное обновление имеет значительное значение для пользователей, так как оно позволяет масштабировать обработку данных, сохраняя их в пределах одной географической зоны. Это особенно важно для компаний, которые стремятся оптимизировать свои затраты и улучшить качество обслуживания клиентов.