Perplexity и NVIDIA представили новый метод постобучения для языковых моделей, названный JOLT, который сочетает в себе роли учителя и студента. В отличие от традиционных подходов, где учитель обучается отдельно, JOLT обучает обе роли одновременно, что позволяет использовать обратную связь учителя более эффективно. Это особенно важно для команд, занимающихся обучением с подкреплением, так как снижает вычислительные затраты.
Метод JOLT был протестирован на нескольких моделях, включая Qwen3-0.6B, Qwen3-4B-Instruct и Qwen3-30B-A3B-Instruct. Результаты показали, что JOLT+ достиг наивысших средних показателей в каждом тестовом окружении, включая уровень успешности 72.09% на тесте AppWorld, что на 9.9 процентных пункта выше, чем у GRPO. Это подчеркивает значительное преимущество нового метода в сравнении с существующими решениями.
Внедрение JOLT может значительно упростить процесс обучения языковых моделей, снижая затраты на обработку данных и повышая эффективность. Это открывает новые возможности для разработки более мощных и доступных языковых систем, что может оказать влияние на целый ряд приложений в области искусственного интеллекта.