ByteDance Seed и Tsinghua AIR представили CUDA Agent, систему агентного обучения с подкреплением, которая обучает большую языковую модель Seed1.6 написанию GPU-ядер, превосходящих компиляторы.

  • Система использует обучение PPO на 150 шагах с контекстом в 131 072 токена внутри песочницы профилирования и проверками корректности.
  • Она достигает уровня прохождения в 98.8% и скорости, превосходящей torch.compile на 96.8%, по бенчмарку KernelBench, обеспечивая геометрическое среднее ускорение в 2.11×.
  • Исследовательская команда выпустила датасет CUDA-Agent-Ops-6K, спецификацию SKILL.md и рецепты вознаграждений, но не веса обученного агента.
  • Абляции показывают, что удаление цикла агента снижает долю случаев с превышением скорости компилятора с 96.8% до 14.1%, подчеркивая важность агентного подхода.

Работа демонстрирует, что размещение LLM в реальной среде разработки CUDA с итеративным профилированием может значительно сократить разрыв в производительности между сгенерированными и написанными вручную или созданными компилятором ядрами.