저자들은 유연한 머신러닝 방법에서 숨겨진 혼란 변수에 대한 민감도를 해결하기 위해 그라디언트 부스팅을 위한 비선형 스펙트럴 디컨파운딩 프레임워크를 개발했습니다. 이 접근 방식은 일반적인 제곱 오차 손실을 스펙트럴 손실로 대체하여 잠재적 혼란 변수와 정렬된 방향의 학습 속도를 늦춥니다.
- 이 방법은 스펙트럴 손실 alone가 아닌, 스펙트럴 수축과 정규화(특히 조기 종료) 간의 상호작용에 의존합니다.
- 혼합 모델 해석은 LAVA-type 수축을 무작위 효과 조정과 연결하여 튜닝을 위한 경험 베이지안 절차를 가능하게 합니다.
- 라플라스 근사 및 커널 무작위 효과를 사용하여 이 프레임워크는 일반 우도 및 비선형 혼란으로 확장됩니다.
합성 데이터와 실제 데이터에 대한 실험은 스펙트럴 디컨파운딩 부스팅이 숨겨진 혼란 하에서 대상 함수 추정을 개선하며 기존 비선형 베이스라인보다 훨씬 더 확장 가능함을 보여줍니다.