A NVIDIA desenvolveu um pipeline de pós-treinamento para seus modelos de linguagem Nemotron-3, permitindo que eles alcancem desempenho de nível de medalha de ouro na Olimpíada Internacional de Informática (IOI). A abordagem combina curadoria em larga escala de problemas, rastros de raciocínio sintéticos, ajuste fino supervisionado e aprendizado por reforço.
- O Nemotron-3-Nano-CC (30B-A3B) foi treinado com ajuste fino supervisionado e aprendizado por reforço, enquanto o Nemotron-3-Ultra-CC (550B-A55B) usou apenas ajuste fino supervisionado.
- A estratégia GenCorrect gera, avalia e refina iterativamente soluções diversas durante o tempo de teste.
- Na IOI 2025, o Nano-CC marcou 468 pontos com GenCorrect, superando o limite de ouro de 438,3, enquanto o Ultra-CC alcançou 502.
- Um sistema Ultra-CC específico para a competição, avaliado prospectivamente nas restrições da IOI 2026, obteve 535,4 de 600 pontos, superando a pontuação máxima humana de 498,27.
Este marca a primeira vez que um sistema de IA superou a pontuação do participante humano mais bem colocado em um conjunto de problemas da IOI sob condições padrão de competição.