Майкл Делл, основатель компании Dell Technologies, выразил обеспокоенность по поводу автономных ИИ-агентов, которые могут выполнять действия без человеческого контроля. Он задал вопрос, что именно такие агенты никогда не должны делать, независимо от указаний. Эти комментарии были сделаны на фоне запуска NVIDIA Open Agent Safety Platform, которая направлена на создание безопасной экосистемы для работы с ИИ.
Платформа NVIDIA, представленная ее генеральным директором Дженсеном Хуаном, объединяет более 100 партнеров и включает в себя инструменты OpenShell и Sentry. Цель этой инициативы — создать уровень доверия для безопасного использования ИИ-агентов в различных отраслях, включая здравоохранение и безопасность. Хуан отметил, что ИИ имеет потенциал значительно улучшить продуктивность и безопасность в будущем.
Делл сравнил ИИ-агентов с сотрудниками, подчеркивая, что, как и люди, они не должны иметь неограниченный доступ ко всем системам компании. Установка четких ограничений для ИИ-агентов может помочь предотвратить потенциальные риски и обеспечить более безопасное использование технологий в бизнесе.