Компания Deepgram анонсировала улучшения для своей платформы, интегрированной с Amazon SageMaker, которые позволят пользователям лучше отслеживать использование ресурсов и управление затратами. Новые метрики помогут понять, за что именно выставляются счета, какие функции используются и как работает движок вывода на каждом графическом процессоре (GPU). Эти новшества адресуют историческую проблему недостаточной наблюдаемости в области саморазмещенного AI.
С помощью обновлений пользователи смогут сохранять аудио и транскрипты в своем аккаунте AWS, что способствует соблюдению требований по хранению данных и соответствию нормативным актам. Это решение позволяет сохранить управляемую контрольную панель для развертывания, масштабирования и мониторинга, при этом обеспечивая пользователям полный контроль над данными. Пользователи должны проконсультироваться с командами по соблюдению норм и изучить модель совместной ответственности AWS.
Данные улучшения от Deepgram имеют значительное значение для предприятий, которые стремятся оптимизировать свои затраты и повысить эффективность использования AI. Упрощение доступа к метрикам и информации о работе движка может помочь компаниям лучше планировать свои ресурсы и управлять бюджетами, что является критически важным для успешной интеграции технологий AI в бизнес-процессы.