著者らは、柔軟な機械学習手法における隠れた交絡因子への敏感性に対処するため、勾配ブースティングのための非線形スペクトルデコンファウンディングフレームワークを開発した。このアプローチは、通常の二乗誤差損失をスペクトル損失に置き換え、潜在交絡因子と整列した方向での学習を遅らせる。

  • この手法は、スペクトル損失単独ではなく、スペクトル収縮と正則化(特に早期終了)の相互作用に依存している。
  • 混合モデル解釈により、LAVA型収縮がランダム効果調整につながり、チューニングのための経験ベイズ手順が可能になる。
  • ラプラス近似およびカーネルランダム効果を用いて、このフレームワークは一般尤度および非線形交絡へ拡張される。

合成データおよび実世界データでの実験により、スペクトルデコンファウンディングブースティングが隠れた交絡下での目的関数推定を改善し、既存の非線形ベースラインよりも大幅にスケーラブルであることが示された。