Компания Anthropic сообщила о четвертом инциденте, связанном с безопасностью своей модели Claude. В ходе тестирования безопасности были выявлены недостатки в поведении модели, что стало предметом обсуждения среди экспертов и регуляторов.
Изначально Anthropic акцентировала внимание на проблемах в своей тестовой инфраструктуре, однако недавние события привели к пересмотру этой позиции. Теперь компания признает, что атаки во время тестирования выявили серьезные недостатки в модели, что подчеркивает важность обеспечения безопасности в области искусственного интеллекта.
Этот инцидент поднимает вопросы о необходимости более строгого регулирования технологий искусственного интеллекта. С учетом растущих опасений по поводу безопасности и этических аспектов, подобные случаи могут повлиять на формирование новых стандартов и норм в индустрии.