PrismML представила Ternary Bonsai 2 27B, новую языковую модель с тернарными весами, которая сохраняет 98.2% производительности модели Qwen3.8 27B. Объем модели составляет 5.93 ГБ, что значительно меньше по сравнению с 53.80 ГБ в формате FP16. Модель поддерживает контекст до 262K токенов и может обрабатывать как текст, так и изображения.
Новая модель демонстрирует возможности управления кодирующими агентами Cline и компьютерными задачами на графическом процессоре RTX 5090. Она доступна для развертывания на ноутбуках с 16 ГБ оперативной памяти или на одном GPU с 24 ГБ. Для работы с моделью необходимо использовать модификацию llama.cpp от PrismML или их среду выполнения MLX.
Ternary Bonsai 2 27B сохраняет архитектуру Qwen3.8 27B, имея 27.36 миллиардов параметров. Это делится на 24.35 миллиарда для языкового ядра, 2.54 миллиарда для встраиваний и головы LM, а также 0.47 миллиарда для визуальной составляющей. Модель использует гибридное внимание, состоящее примерно из 75% линейного и 25% полного внимания.