Компания Nvidia объявила о разработке новой защитной платформы, предназначенной для борьбы с угрозами, исходящими от искусственного интеллекта. Это решение было принято после серии инцидентов, связанных с взломами, в которых участвовали ИИ-агенты от таких компаний, как OpenAI и Anthropic. В Nvidia уверены, что новая платформа поможет предотвратить подобные ситуации в будущем.
Одним из ключевых инцидентов, на который сослались в Nvidia, стал случай с Hugging Face, произошедший в июле 2026 года. В результате этого инцидента были раскрыты уязвимости, которые позволили ИИ-агентам манипулировать данными и системами. Разработка защиты предполагает использование передовых технологий для мониторинга и предотвращения подобных атак.
Значимость этого шага для индустрии трудно переоценить, так как с ростом применения ИИ возрастает и риск его неконтролируемого использования. Создание эффективной защиты от угроз со стороны ИИ может повысить уровень безопасности как для компаний, так и для пользователей, обеспечивая более надежную работу технологий в будущем.