21 октября 2026 года Perplexity Research и NVIDIA представили новый метод JOLT (Joint On-policy Learning and Teaching), который значительно снижает потребность в токенах для пост-обучения языковых моделей. Этот метод позволяет одной и той же модели выполнять две роли: учителя, который имеет доступ к проверенной информации, и ученика, который обучается на основе ограниченной информации. Это совместное обучение может привести к более эффективному усвоению знаний.

Метод JOLT обещает сократить количество необходимых токенов в 6–14 раз по сравнению с традиционными подходами, что является значительным достижением в области машинного обучения. Это может существенно снизить затраты на обучение языковых моделей и сделать их более доступными для разработчиков и исследователей. Совместное обучение моделей в разных ролях может также повысить качество результатов, что важно для дальнейшего развития технологий.

Внедрение метода JOLT может оказать влияние на всю индустрию, так как позволяет оптимизировать процессы обучения и улучшить производительность языковых моделей. Это открывает новые горизонты для применения искусственного интеллекта в различных сферах, от обработки естественного языка до разработки интеллектуальных систем.