一位开发者讨论了在C++中实现2层LSTM时遇到的挑战,指出模型经常无法收敛,并且在训练期间表现出 erratic 误差系数。
该用户报告使用包含56k字符的数据集,输入层有96个节点,观察到尽管尝试了梯度归一化和裁剪,错误率经常超过3.0的阈值。
虽然架构在基础测试中成功过拟合,但作者寻求在不将代码重构为单个隐藏层的情况下提高稳定性的建议。
一位开发者讨论了在C++中实现2层LSTM时遇到的挑战,指出模型经常无法收敛,并且在训练期间表现出 erratic 误差系数。
该用户报告使用包含56k字符的数据集,输入层有96个节点,观察到尽管尝试了梯度归一化和裁剪,错误率经常超过3.0的阈值。
虽然架构在基础测试中成功过拟合,但作者寻求在不将代码重构为单个隐藏层的情况下提高稳定性的建议。