Компания BottleCap AI представила новую модель ThinkingCap-Qwen3.8-27B, которая является улучшенной версией Qwen3.8-27B. Основной целью разработки было сокращение количества токенов, необходимых для размышлений, что позволяет повысить эффективность обработки запросов. В результате, модель показала среднее снижение использования токенов на 37.2%, при этом точность снизилась с 86.65% до 85.79%.
ThinkingCap-Qwen3.8-27B доступна для использования на платформах vLLM и SGLang и поддерживает различные сборки, включая FP8 и NVFP4. Важно отметить, что для коммерческого использования требуется соглашение с компанией BottleCap, что подчеркивает стратегический подход к лицензированию и контролю за распространением технологии.
Данная модель нацелена на решение проблемы избыточного использования токенов в процессах рассуждения, что может значительно улучшить производительность AI-систем в различных приложениях. Оптимизация таких моделей имеет важное значение для дальнейшего развития технологий искусственного интеллекта и повышения их практической эффективности.