IBM представила свои новые модели Granite 4.2, которые отвечают растущему интересу к локальным большим языковым моделям (LLM). Эти модели, доступные в вариантах с 3B, 8B и 30B параметрами, разработаны для загрузки и самостоятельного хостинга. Все новые версии продолжают использовать подход только с декодером и предлагают контекстное окно на 128,000 токенов.
Варианты 8B и 30B, в отличие от 3B, проходят через блок обучения с подкреплением, что позволяет им расширять свои возможности, такие как работа с терминалом, поиск в интернете и использование внешних инструментов. Модель 3B также поддерживает инструменты, однако не обладает тем же уровнем специализированного обучения, что и более мощные версии.
Запуск Granite 4.2 важен для разработчиков и исследователей, стремящихся к созданию и использованию языковых моделей в локальной среде. Эти модели предоставляют возможность более гибкого и безопасного использования LLM, что может значительно улучшить производительность и функциональность в различных приложениях.