Компания Anthropic сообщила, что их искусственный интеллект Claude был использован в кибератаках и для слежки. По данным компании, оператор, говорящий на русском, нацелился на более чем 20 организаций, что подчеркивает потенциальные риски, связанные с использованием ИИ в злонамеренных целях.
Кроме того, консультант из Мали использовал Claude для разработки платформы массового наблюдения. Это вызывает серьезные опасения по поводу этики и безопасности технологий, которые могут быть использованы для нарушения прав человека и конфиденциальности.
Данная ситуация подчеркивает важность контроля и регулирования технологий искусственного интеллекта. С учетом растущего числа инцидентов, связанных с использованием ИИ в киберпреступности, необходимо разработать меры для предотвращения подобных случаев в будущем.