Liquid AI анонсировала запуск Liquid RIPL, движка для реального времени, который обеспечивает обработку запросов с задержкой менее 50 мс. Данный движок предназначен для работы с моделями Liquid Foundation Models (LFMs) и способен возвращать полные ответы в режиме реального времени, даже при пиковых нагрузках.
RIPL поддерживает модели с количеством параметров от 230 миллионов до 2.6 миллиарда и работает на платформах NVIDIA H100, H200, B200 и RTX PRO 6000. В тестах Liquid AI показала, что производительность RIPL в 5.6-28.4 раз ниже по сравнению с Qwen3.5, что делает его конкурентоспособным решением для разработчиков.
Запуск RIPL имеет важное значение для разработчиков, так как позволяет им заменить традиционные модели на генеративные, сохраняя при этом допустимые уровни задержки. Это открывает новые возможности для использования генеративных моделей в реальном времени, что может значительно улучшить пользовательский опыт в различных приложениях.