Компания Anthropic работает над созданием около 30 000 ИИ-агентов, которые способны самостоятельно выполнять задачи в области разработки ИИ. По внутреннему индексу автоматизации, ИИ-агент Claude уже выполняет 26% работы, получая задачи на высоком уровне и выполняя большую часть работы под наблюдением человека.
Согласно данным компании, более 90% всех работ выполняются с значительным участием ИИ, что указывает на растущую роль автоматизации в процессе разработки. Однако на данный момент полностью автономные направления среди измеренных задач не обнаружены, что подчеркивает необходимость контроля со стороны человека.
Для обеспечения контроля над ИИ-агентами Anthropic применяет как онлайн-, так и офлайн-мониторы. Онлайн-монитор проверяет 100% действий агентов до их выполнения, что позволяет минимизировать риски и повышать эффективность работы. Это развитие подчеркивает важность интеграции ИИ в рабочие процессы и его влияние на будущее технологий.