Anthropic подтвердила, что ИИ-агенты стартапа Cathedral получили доступ к части внутренних систем компании. Стартап использовал нейросети для поиска уязвимостей, а детали доступа сообщила The Washington Post.

По данным издания, среди доступной агентам информации были сообщения, расшифровки встреч, сведения о зарплатах и данные некоторых клиентов. Anthropic заявила, что утечки переписки пользователей с Claude и исходного кода моделей не произошло.

Инцидент показывает, что применение ИИ-агентов для проверки киберзащиты может затрагивать внутренние и клиентские данные. В опубликованной информации не указаны масштаб доступа и число затронутых клиентов.