Да, линейные модели могут быть базовыми learners бустинга. Но сумма линейных функций от одних и тех же признаков остаётся линейной и не создаёт нелинейные зависимости сама по себе.
Можно ли построить бустинг на линейных моделях?
Да, линейные модели могут быть базовыми learners бустинга. Но сумма линейных функций от одних и тех же признаков остаётся линейной и не создаёт нелинейные зависимости сама по себе.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Да, линейные модели могут быть базовыми learners бустинга. Но сумма линейных функций от одних и тех же признаков остаётся линейной и не создаёт нелинейные зависимости сама по себе.
Итеративное обучение может влиять на регуляризацию и выбор координат. Для нелинейности нужны преобразованные признаки или нелинейные базовые модели. Деревья популярны именно потому, что естественно учитывают нелинейности и взаимодействия признаков.