Um método novo é introduzido para a otimização parcial e total das conexões em redes de portas lógicas diferenciáveis profundas (LGNs) e redes de tabelas de consulta (LUTNs). A abordagem de treinamento utiliza uma distribuição de probabilidade sobre as conexões por pino de entrada, selecionando a conexão com maior mérito enquanto aprende tipos de porta ou entradas de LUT ótimos em paralelo.

  • LGNs otimizados por conexão superam variantes padrão de conexão fixa nos benchmarks Yin-Yang, MNIST e Fashion-MNIST usando significativamente menos portas lógicas.
  • O método alcança 98,92% de precisão no MNIST com duas camadas de 8000 portas, exigindo quase 50 vezes menos portas do que LGNs de conexão fixa.
  • A estabilidade do treinamento para até dez camadas é garantida por altas taxas de aprendizado, estimadores de passagem direta e remoção de tipos de porta de saída constante.
  • Uma descrição de neurônio LUT permite treinamento de retropropagação estável em redes com até seis camadas de profundidade e quatro vezes menos parâmetros treináveis.
  • O algoritmo de treinamento de conexão alcança 98,88% de precisão em LUTNs usando duas camadas de 2000 LUTs de 6 entradas.

Esta abordagem demonstra que otimizar conexões permite modelos substancialmente mais eficientes que mantêm ou melhoram a precisão em comparação com arquiteturas tradicionais de conexão fixa.