Статья представляет KORE, метод, который определяет оптимальное разрешение сплайновой регрессии в замкнутой форме, а не через исчерпывающий поиск гиперпараметров. Используя классическую теорию аппроксимации и тождество PRESS, он аналитически балансирует масштабы смещения и шума для достижения точности, сопоставимой с перебором по сетке, но при значительно меньших вычислительных затратах.
- KORE заменяет размерность входных данных порядком взаимодействия, создавая закон масштабирования, в котором оптимальное разрешение является степенной функцией эффективной плотности.
- Алгоритм подгоняет два пилотных разрешения и решает систему 2x2 с калибровкой по рычагу для оценки масштабов смещения и шума для получения разрешающей способности в замкнутой форме.
- Он требует лишь около дюжины подгонок модели по сравнению с полным перебором по сетке, обеспечивая гарантию согласованности при увеличении размера выборки.
- На 36 реальных табличных наборах данных до 80 измерений KORE занимает первое место среди 21 метода по точности на единицу вычислений, превосходя настроенные бустеры и ядерные машины.
Этот подход позволяет сплайновой регрессии обойти вычислительную стоимость настройки гиперпараметров, сохраняя высокую предсказательную производительность для целей с низким порядком взаимодействия.