Nokia представила AnyJev, новую библиотеку на Python, которая позволяет преобразовать любую открытую языковую модель (LLM) в модель принятия решений без необходимости в обучении. Библиотека предназначена для выполнения задач, связанных с выбором одного ответа из фиксированного набора, а не для генерации текста. AnyJev доступна для установки через PyPI и распространяется под лицензией Apache-2.0, поддерживая бэкенды transformers и vLLM с общей оценкой префиксов.
AnyJev заимствует свой интерфейс у системы Jev, разработанной TypeSafe AI и запущенной в сентябре 2026 года. Пользователь вводит типизированный вопрос и получает ответ с вероятностью, которую можно порогово оценить. Эта вероятность считывается из распределения токенов следующего элемента модели, что позволяет избежать генерации и разбора текста.
Поддерживаемые типы вопросов включают выбор из нескольких вариантов, вопросы с ответом "да" или "нет", а также вопросы, требующие оценки в одном из нескольких упорядоченных классов. Эта библиотека может значительно упростить интеграцию языковых моделей в производственные процессы, что делает её полезным инструментом для разработчиков и исследователей в области искусственного интеллекта.