NVIDIA는 Nemotron-3 언어 모델용 사후 학습 파이프라인을 개발하여 국제정보올림피아드(IOI)에서 금메달 수준의 성능을 달성했습니다. 이 접근법은 대규모 문제 큐레이션, 합성 추론 트레이스, 지도 미세 조정 및 강화 학습을 결합합니다.

  • Nemotron-3-Nano-CC (30B-A3B)는 지도 미세 조정과 강화 학습으로 훈련되었으며, Nemotron-3-Ultra-CC (550B-A55B)는 지도 미세 조정만으로 사용되었습니다.
  • GenCorrect 전략은 테스트 시간 동안 다양한 솔루션을 반복적으로 생성, 평가 및 정제합니다.
  • IOI 2025에서 Nano-CC는 GenCorrect를 사용하여 468점을 획득하여 금메달 기준선인 438.3점을 초과했으며, Ultra-CC는 502점에 도달했습니다.
  • IOI 2026 제약 조건에 대해 사전 평가된 대회 전용 Ultra-CC 시스템은 600점 만점에 535.4점을 획득하여 최고 인간 점수인 498.27점을 능가했습니다.

이는 표준 대회 조건 하에서 AI 시스템이 IOI 문제 세트에서 최고 점수를 받은 인간 참가자를 능가한 첫 번째 사례입니다.