19 октября 2026 года Microsoft озвучила предложение о том, что ИИ-агенты внутри компании должны рассматриваться как инсайдеры без презумпции доверия. Это связано с необходимостью более строгого контроля за действиями агентов, что включает внедрение агентов-надзирателей, которые будут проверять каждое действие перед его выполнением.
В посте обсуждаются проблемы, связанные с избыточными правами доступа (overprivileged) ИИ-агентов. Эти права часто распределены по различным системам, что затрудняет их точное управление и контроль. В связи с этим возникает необходимость в создании единой модели, которая позволит более эффективно управлять доступом и действиями ИИ-агентов.
Инициатива Microsoft подчеркивает важность обеспечения безопасности и контроля в области искусственного интеллекта. В условиях растущего использования ИИ в различных сферах, такие меры могут помочь предотвратить потенциальные риски и обеспечить более надежное функционирование технологий.