Un développeur discute des défis rencontrés lors de l'implémentation d'un LSTM à 2 couches en C++, notant que le modèle échoue souvent à converger et présente des coefficients d'erreur erratiques pendant l'entraînement.

L'utilisateur signale l'utilisation d'un jeu de données de 56k caractères avec des couches d'entrée à 96 nœuds, observant que le taux d'erreur dépasse fréquemment le seuil de 3.0 malgré les tentatives de normalisation et de clipping du gradient.

Bien que l'architecture surajuste avec succès sur des tests élémentaires, l'auteur cherche des conseils pour améliorer la stabilité sans restructurer le code en une seule couche cachée.