Seorang pengembang membahas tantangan yang dihadapi saat mengimplementasikan LSTM berlapis-2 di C++, mencatat bahwa model sering gagal konvergen dan menunjukkan koefisien error yang tidak menentu selama pelatihan.
Pengguna melaporkan menggunakan dataset 56k karakter dengan lapisan input 96-node, mengamati bahwa tingkat error sering melampaui ambang batas 3.0 meskipun ada upaya normalisasi gradien dan clipping.
Meskipun arsitektur berhasil overfit pada tes dasar, penulis mencari saran untuk meningkatkan stabilitas tanpa menyusun ulang kode menjadi satu lapisan tersembunyi.