Компания Perplexity анонсировала запуск Portable Computer, локальной версии своей агентной платформы, которая работает на NVIDIA DGX Spark. Эта система объединяет в себе агентный хардварный интерфейс, оркестратор, планировщик и инструменты для работы с пост-тренированными моделями, предлагая пользователям возможность выполнять задачи непосредственно на устройстве без дополнительных затрат на токены.
Portable Computer включает в себя локальную модель, движок вывода, песочницу для инструментов и соединители приложений, что делает его удобным для предприятий и стартапов с высоким уровнем финансирования, уже обладающих рабочими станциями NVIDIA. При необходимости использования онлайн-ресурсов, оркестратор останавливает выполнение и запрашивает разрешение на отправку запроса в облачные модели.
Данная система не подходит для малых и средних бизнесов, так как требует мощного оборудования, стоимость которого может быть значительной. Тем не менее, Portable Computer может быть полезен в таких отраслях, как финансы, здравоохранение и правительство, где требуется высокая производительность и безопасность обработки данных.