NVIDIA представила на AWS мультимодальную модель Nemotron 3.5 Super VL. Модель с архитектурой mixture-of-experts содержит 120 млрд параметров и активирует 12 млрд параметров на токен; она поддерживает рассуждения и использование инструментов, а также обработку текста, изображений, документов и видео.
Nemotron 3.5 Super VL доступна для развертывания на Amazon Elastic Kubernetes Service (EKS), EKS Auto Mode и SageMaker HyperPod EKS. По данным NVIDIA, модель создана на основе дистилляции Nemotron 3 Ultra; компания также публикует веса, обучающие наборы данных и рецепты дообучения, чтобы разработчики могли адаптировать ее к своим задачам и запускать на контролируемой ими инфраструктуре.
В архитектуре используются слои Mamba-2, MoE и внимания, а для обработки визуальных данных — энкодер RADIO. Релиз расширяет набор моделей Nemotron, уже доступных на AWS, и предлагает разработчикам вариант для мультимодальных задач с возможностью настройки и самостоятельного развертывания.