这项工作提出了一种基于后验误差估计沿深度方向自适应调整神经网络架构的新方法。通过将神经网络训练公式化为连续时间最优控制问题,作者推导出了严格的误差估计,量化了近似误差在网络各层中的分布情况。

  • 在最大估计误差的位置插入新层,以捕捉复杂的非线性变化。
  • 该框架将权重和偏置视为随层变化的分段线性函数。
  • 使用有限元分析中的对偶加权残差方法推导功能误差的可计算上界。
  • 显式误差界限将总近似误差分解为区间贡献,以实现针对性细化。
  • 该方法已在科学数据集上进行了演示,包括学习纳维-斯托克斯方程的观测值到参数映射。

数值结果表明,在泛化性能方面,这种方法一致地优于现有的架构自适应方法。