Компания Nvidia анонсировала Open Agent Safety Platform, новую платформу, разработанную для повышения безопасности ИИ-агентов. Эта система включает в себя открытое программное обеспечение OpenShell и инструмент Sentry, который способен отслеживать поведение ИИ-агентов и изолировать их в случае нарушения заданных ограничений.
Sentry работает в режиме реального времени, обеспечивая защиту от потенциально опасных действий ИИ-агентов. Платформа может быстро реагировать на угрозы, изолируя нарушившие правила системы всего за миллисекунды. Это позволяет минимизировать риски, связанные с использованием ИИ в различных приложениях.
Разработка таких платформ становится все более актуальной в условиях роста применения ИИ-технологий. Nvidia, как один из ведущих игроков в области графических процессоров и ИИ, подчеркивает важность безопасности в этой сфере, что может способствовать более широкому принятию ИИ-решений в бизнесе и повседневной жизни.