Baseten выпустила joey-1 — модель на 2 млрд параметров, разработанную исследовательской лабораторией Base Labs. Она предназначена для маршрутизации запросов, классификации и проверок защитных ограничений, а результатом выдает метку и калиброванную вероятность, а не текст. Стоимость обработки составляет $0,01 за миллион входных токенов.

По данным Baseten, модель набрала 63,30 балла в открытой части теста Jev Decision Index 0.4 и заняла 37-е место среди 230 моделей. Компания называет ее лучшей моделью с параметрами менее 4 млрд в этом тесте. При этом результат на 8,94 балла ниже показателя модели elephant-1 на 9 млрд параметров.

Весовые коэффициенты joey-1 доступны на Hugging Face по лицензии MIT. Модель работает через API Baseten или может быть развернута самостоятельно на одной CUDA-видеокарте; максимальная длина последовательности составляет 16 384 токена, а для выделенных развертываний компания указывает лимит в 262 000 токенов. Baseten заявляет, что медианная задержка принятия решения составляет 20 мс.