Desenvolvedor compartilha dificuldades de treinamento de LSTM em C++

Um desenvolvedor discute os desafios encontrados ao implementar um LSTM de 2 camadas em C++, observando que o modelo frequentemente falha em convergir e exibe coeficientes de erro erráticos durante o treinamento.

O usuário relata usar um conjunto de dados de 56k caracteres com camadas de entrada de 96 nós, observando que a taxa de erro frequentemente ultrapassa o limiar de 3.0 apesar das tentativas de normalização e clipping de gradientes.

Embora a arquitetura sobreajuste com sucesso em testes elementares, o autor busca conselhos para melhorar a estabilidade sem reestruturar o código para uma única camada oculta.