OpenAI анонсировала настройку ChatGPT Codex с LiteLLM на Amazon ECS и Amazon Bedrock, что дает возможность организациям централизованно контролировать доступ к AI-кодировщикам. Эти агенты помогают разработчикам работать с репозиториями, писать код, проводить тесты и выполнять сложные инженерные задачи.
С переходом от индивидуального эксперимента к управляемому внедрению, командам необходимо обеспечить единообразный контроль доступа к моделям и расходу ресурсов. Важно также установить бюджеты и лимиты, а также отслеживать путь доступа к моделям. OpenAI Codex выполняет свои задачи на рабочей станции разработчика, читая локальные файлы и используя одобренные инструменты в локальной песочнице.
Это решение позволяет клиентам направлять обработку моделей через инфраструктуру в их AWS-аккаунте, что значительно упрощает интеграцию AI в процессы разработки. Настройка LiteLLM на Amazon ECS обеспечивает гибкость и контроль, что особенно важно для крупных организаций, стремящихся оптимизировать свои рабочие процессы.