Бустинг с линейными базовыми моделями возможен, но сумма линейных моделей по тем же признакам остаётся линейной.
Имеет ли смысл обучать градиентный бустинг на линейных моделях вместо деревьев?
Бустинг с линейными базовыми моделями возможен, но сумма линейных моделей по тем же признакам остаётся линейной.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Бустинг с линейными базовыми моделями возможен, но сумма линейных моделей по тем же признакам остаётся линейной.
Он не получает нелинейность деревьев автоматически; смысл такого выбора оценивают по функции потерь, регуляризации, представлению признаков и результатам проверки.