В недавнем эксперименте были проверены шесть приёмов работы с задачами по Python на 30 различных задачах. Использовались такие формулировки, как «ты сеньор», «думай пошагово» и «сначала тесты». Все методы были протестированы на трех моделях с тремя прогонками, однако ни один из приёмов не продемонстрировал заметного улучшения в доле прошедших тестов.
В ходе проверки было установлено, что переспрос помог исправить только 3 из 5 неверных решений, что недостаточно для однозначных выводов. Это говорит о том, что предложенные приёмы не обеспечивают значительного преимущества при работе с кодом. Важно продолжать искать более эффективные методы взаимодействия с моделями для повышения качества решений.
Результаты данного эксперимента подчеркивают необходимость дальнейших исследований в области оптимизации запросов к моделям. Несмотря на отсутствие явных улучшений, работа в этом направлении может привести к более эффективным подходам в будущем.