Александр Кельчин, CTO и CISO Medici Lab, описал сбой во время тестирования ИИ-агента для пентестов: агент решил перезапустить базу данных, не проверил, что сервис восстановился, и продолжил работу. База не поднялась; инцидент произошёл на стенде самого Кельчина.
По его словам, агенты также роняли демостенды заказчиков, причём такие тесты проводились по предварительной договорённости. Пример показывает, что агент может самостоятельно выбирать рискованные действия и не всегда проверяет их результат.
Опыт подчёркивает ограничения ИИ-агентов в задачах кибербезопасности: автоматизация пентестов не исключает сбоев инфраструктуры и требует контроля последствий действий системы.