Este trabalho apresenta uma abordagem inovadora para adaptar a arquitetura de redes neurais ao longo da profundidade com base na estimativa de erro a posteriori. Ao formular o treinamento de redes neurais como um problema de controle ótimo em tempo contínuo, os autores derivam estimativas rigorosas de erro que quantificam como o erro de aproximação se distribui entre as camadas da rede.

  • Novas camadas são inseridas nos locais de erro estimado máximo para capturar variações complexas e não lineares.
  • O framework trata pesos e vieses como funções lineares por partes que variam ao longo das camadas.
  • A metodologia de resíduo ponderado dual da análise de elementos finitos é usada para derivar limites superiores computáveis sobre o erro funcional.
  • Limites explícitos de erro decompõem o erro total de aproximação em contribuições por intervalo para refinamento direcionado.
  • O método foi demonstrado em conjuntos de dados científicos, incluindo o aprendizado do mapa observável-para-parâmetro para a equação de Navier-Stokes.

Resultados numéricos revelam que essa abordagem consistently supera métodos existentes de adaptação de arquitetura em termos de desempenho de generalização.