Модель GPT-OSS-20B, предназначенная для многоязычного мышления, была протестирована на Amazon SageMaker HyperPod. В ходе 50-примерного теста на многоязычное мышление модель правильно отвечала на вопросы на целевом языке лишь в 22% случаев, причем все успешные ответы были на английском языке. Это означает, что пользователи, задающие вопросы на французском, немецком, испанском или итальянском, не получают ожидаемых ответов на своих языках.

Проблема заключается в том, что, несмотря на запрос на другой язык, модель продолжает генерировать ответы на английском. Это создает значительные трудности для команд, разрабатывающих модели для пользователей, говорящих на других языках. Важно, чтобы модель могла не только распознавать запросы, но и отвечать на них на языке пользователя.

Закрытие этого разрыва требует дообучения модели, что ставит перед командами вопрос о выборе метода: супервайзед дообучение (SFT), обучение с подкреплением с использованием Group Relative Policy Optimization (GRPO) или их комбинация. Эффективное решение этой задачи имеет большое значение для улучшения пользовательского опыта и расширения применения моделей в многоязычной среде.