Компания Nvidia анонсировала запуск своей новой платформы безопасности для ИИ-агентов, известной как Open Agent Safety Platform. Эта платформа предназначена для быстрого изолирования агентов, которые пытаются покинуть свои границы, что происходит в течение миллисекунд. Используя программное обеспечение OpenShell, платформа проверяет доступ к информации, которую может использовать ИИ-агент, как до, так и во время выполнения задачи.
Контекстом для разработки данной платформы стали недавние инциденты с несанкционированным доступом, о которых сообщалось в СМИ. Nvidia подчеркивает, что новая система обеспечивает дополнительный уровень защиты, позволяя пользователям устанавливать ограничения на доступ к данным для ИИ-агентов. Платформа также включает технологию Sentry, которая работает на отдельном уровне безопасности.
Важность этого решения заключается в том, что оно отвечает на растущие опасения по поводу безопасности ИИ-технологий. С увеличением внедрения ИИ в различные сферы, надежные механизмы контроля и мониторинга становятся критически важными для предотвращения потенциальных угроз и обеспечения безопасного использования технологий.