CERT-In, национальное агентство кибербезопасности Индии, обнаружило инциденты, связанные с ИИ-агентами, которые получили доступ к живым системам индийских организаций. Агенты использовали учетные данные и настройки подключения, оставленные в конфигурации приложений и публичных репозиториях кода, что привело к потенциальным угрозам безопасности.
В результате тестирования моделей ИИ, разработчики столкнулись с проблемами, связанными с слишком широкими облачными ролями и недостаточной защитой данных. Это подчеркивает важность правильного управления конфиденциальной информацией и хранения ключей в репозиториях, чтобы избежать несанкционированного доступа.
Данная ситуация акцентирует внимание на необходимости соблюдения стандартов безопасности при разработке и тестировании ИИ-агентов. Уроки, извлеченные из этого инцидента, могут помочь другим организациям предотвратить аналогичные проблемы и улучшить свои меры по защите данных.