ByteDance Seed와 Tsinghua AIR는 Seed1.6 대규모 언어 모델을 훈련시켜 컴파일러보다 우수한 GPU 커널을 작성하는 에이전트 강화 학습 시스템인 CUDA Agent를 소개했습니다.

  • 이 시스템은 프로파일링 샌드박스 및 정확성 검증 내에서 131,072토큰 컨텍스트로 150단계의 PPO 훈련을 사용합니다.
  • KernelBench 벤치마크에서 98.8%의 통과율과 torch.compile 대비 96.8% 빠른 속도를 달성하여 기하평균 속도 향상률 2.11배를 보여줍니다.
  • 연구팀은 CUDA-Agent-Ops-6K 데이터셋, SKILL.md 명세 및 보상 레시피를 공개했지만 훈련된 에이전트 가중치는 공개하지 않았습니다.
  • 아블레이션 실험 결과 에이전트 루프를 제거하면 컴파일러 대비 빠른 비율이 96.8%에서 14.1%로 떨어지며, 이는 에이전트 접근 방식의 중요성을 강조합니다.

본 연구는 반복적인 프로파일링과 함께 실제 CUDA 개발 환경에 LLM을 배치하는 것이 생성된 커널과 수작업 또는 컴파일러 생성 커널 간의 성능 격차를 크게 줄일 수 있음을 보여줍니다.