Градиентный бустинг по деревьям (например, XGBoost, LightGBM) — это мощный метод для предсказания на основе обучающей выборки, но он не предназначен для экстраполяции за пределы диапазона обучающих данных, особенно если в признаках только лаги таргета.
Умеет ли градиентный бустинг по деревьям экстраполировать за пределы обучающей выборки, если в признаках только лаги таргета?
Если признаки — это только предыдущие значения целевой переменной (лаги), то модель учится аппроксимировать зависимости внутри известного диапазона значений.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Градиентный бустинг по деревьям (например, XGBoost, LightGBM) — это мощный метод для предсказания на основе обучающей выборки, но он не предназначен для экстраполяции за пределы диапазона обучающих данных, особенно если в признаках только лаги таргета.
Если признаки — это только предыдущие значения целевой переменной (лаги), то модель учится аппроксимировать зависимости внутри известного диапазона значений. При попытке предсказать значения вне этого диапазона (экстраполяция) модель обычно будет выдавать значения, близкие к максимуму или минимуму, встреченным в обучении, так как деревья не умеют линейно или иным образом адекватно продолжать тренды за пределами обучающей выборки.
Таким образом, градиентный бустинг по деревьям неэффективен для экстраполяции, если признаки ограничены лагами таргета. Для задач, требующих экстраполяции, лучше использовать модели с явной способностью к этому, например, линейные модели, модели с регуляризацией или нейронные сети с подходящей архитектурой.