Se presenta un método novedoso para la optimización parcial y completa de las conexiones en redes de puertas lógicas diferenciables profundas (LGN) y redes de tablas de búsqueda (LUTN). El enfoque de entrenamiento utiliza una distribución de probabilidad sobre las conexiones por pin de entrada, seleccionando la conexión con mayor mérito mientras aprende los tipos de puerta óptimos o las entradas LUT en paralelo.

  • Las LGN optimizadas en conexiones superan a las variantes estándar de conexiones fijas en los benchmarks Yin-Yang, MNIST y Fashion-MNIST utilizando significativamente menos puertas lógicas.
  • El método alcanza una precisión del 98.92% en MNIST con dos capas de 8000 puertas, requiriendo casi 50 veces menos puertas que las LGN de conexiones fijas.

La estabilidad del entrenamiento para hasta diez capas se asegura mediante tasas de aprendizaje altas, estimadores de paso directo y el recorte de tipos de puerta de salida constante.

  • Una descripción de neurona LUT permite un entrenamiento de retropropagación estable en redes de hasta seis capas de profundidad con cuatro veces menos parámetros entrenables.
  • El algoritmo de entrenamiento de conexiones alcanza una precisión del 98.88% en LUTN utilizando dos capas de 2000 LUT de 6 entradas.

Este enfoque demuestra que optimizar las conexiones permite modelos sustancialmente más eficientes que mantienen o mejoran la precisión en comparación con las arquitecturas tradicionales de conexiones fijas.