В рамках тестирования моделей Ornith-1.5 и Qwen3.8 была поставлена задача определить, какой квант лучше всего подходит для использования на графической карте. В ходе эксперимента использовались 18 конфигураций, каждая из которых включала три модели и пять-шесть квантов, а также один и тот же набор из 22 реальных задач.
Результаты тестирования показали, что для достижения удовлетворительных результатов не требуется приобретение RTX5090. Использование моделей 9B и Q5/Q6 обеспечило необходимую производительность, что позволяет избежать дополнительных затрат на более мощное оборудование.
Данное тестирование имеет значение для разработчиков и пользователей, которые ищут оптимальные решения для работы с квантовыми моделями. Оно демонстрирует, что можно достичь хороших результатов без необходимости в дорогом оборудовании, что делает технологии более доступными для широкой аудитории.