ByteDance Seed и Tsinghua AIR представили CUDA Agent, систему обучения с подкреплением, предназначенную для генерации CUDA-ядра. Эта система обучает крупную языковую модель, чтобы она могла писать GPU-ядра, которые обгоняют результаты компилятора. При тестировании на KernelBench базовая модель Seed1.6 показала 74% успешных задач, но лишь 27.2% из них были быстрее, чем результаты torch.compile.
CUDA Agent решает эту проблему, помещая модель в реальную среду разработки CUDA с профилированием и проверками корректности. Модель обучалась с использованием метода PPO в течение 150 шагов с контекстом в 131072 токена. В результате, новая система показала 98.8% уровень успешности и 96.8% скорость выполнения задач быстрее, чем torch.compile, что обеспечило средний прирост в 2.11 раза.
Данные результаты подчеркивают значимость CUDA Agent в области генерации CUDA-ядра, что может привести к улучшению производительности в вычислительных задачах. Это также ставит ByteDance Seed и Tsinghua AIR в ряд лидеров в области разработки технологий, связанных с искусственным интеллектом и оптимизацией вычислений.