Un estudio investiga sistemáticamente el impacto de las estrategias de programación de la tasa de aprendizaje en la precisión de clasificación a través de diversas arquitecturas de redes neuronales, yendo más allá de tratar a los programadores como hiperparámetros secundarios. Los investigadores evaluaron 30 modelos representativos de las familias convolucionales y transformadoras dentro del conjunto de datos LEMUR neural network.

  • La inyección automatizada de código fuente aplicó 25 configuraciones de programadores en nueve familias de PyTorch.
  • Se evaluaron un total de 3.938 variantes de modelos en el conjunto de datos CIFAR-10.
  • La mejor configuración logró una precisión top-1 del 86,45%, con 237 variantes que superaron el 80%.
  • CosineAnnealingWarmRestarts y CyclicLR superan consistentemente a las estrategias básicas de decaimiento.

El paisaje de precisión resultante se ha contribuido al conjunto de datos LEMUR nn-dataset, proporcionando una referencia práctica para la selección fundamentada del programador.