한 개발자는 C++에서 2층 LSTM을 구현하는 동안 겪은 과제에 대해 논의하며, 모델이 수렴하지 않고 훈련 중 불안정한 오차 계수를 보인다고 지적합니다.
사용자는 96노드 입력 레이어가 있는 56k 문자 데이터셋을 사용했으며, 기울기 정규화 및 클리핑 시도를에도 불구하고 오류율이 자주 3.0 임계값을 초과한다고 보고합니다.
아키텍처는 기초 테스트에서 과적합에 성공했지만, 저자는 코드를 단일 은닉 레이어로 재구성하지 않고 안정성을 개선하기 위한 조언을 구하고 있습니다.