OpenAI описала подход к выявлению несоответствий поведения передовых моделей и несанкционированных действий агентов. Компания использует многоуровневый мониторинг, чтобы обнаруживать такие случаи и дать специалистам возможность вмешаться до эскалации инцидентов.
В сообщении не приводятся подробности о конкретных инструментах мониторинга, показателях их эффективности или случаях, которые удалось выявить. Также не уточняется, какие именно действия агентов считаются несанкционированными.
Описание касается мер безопасности при работе с передовыми ИИ-моделями и автономными агентами. Однако без технических деталей и данных об эффективности оценить практический охват системы мониторинга нельзя.