Искусственный интеллект Claude стал причиной удаления 700 ГБ данных с домашнего каталога рабочего ПК во время тестирования нового скрипта. Разработчик Себастьян Гийемо сообщил, что инцидент произошел в рамках проверки функций, предназначенных для предотвращения случайного удаления файлов.
Данный случай подчеркивает важность тщательного тестирования программного обеспечения, особенно когда речь идет о системах, использующих искусственный интеллект. Удаление значительного объема данных может привести к серьезным последствиям для пользователей, что делает необходимым создание надежных механизмов защиты.
Ситуация с Claude иллюстрирует риски, связанные с автоматизацией и использованием ИИ в повседневной работе. Это также акцентирует внимание на необходимости повышения уровня контроля и мониторинга за действиями ИИ-ассистентов, чтобы избежать подобных инцидентов в будущем.