Основные варианты — L2/Ridge, L1/Lasso и их сочетание Elastic Net. К функции потерь добавляют штраф за величину коэффициентов, ограничивая сложность решения.
Расскажи про регуляризацию линейной регрессии: какие виды бывают?
Основные варианты — L2/Ridge, L1/Lasso и их сочетание Elastic Net. К функции потерь добавляют штраф за величину коэффициентов, ограничивая сложность решения.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Основные варианты — L2/Ridge, L1/Lasso и их сочетание Elastic Net. К функции потерь добавляют штраф за величину коэффициентов, ограничивая сложность решения.
L2 плавно уменьшает веса, L1 может занулить часть, Elastic Net сочетает оба эффекта. Силу штрафа подбирают по validation; масштабирование признаков важно для сопоставимого воздействия. Intercept обычно не штрафуют, но точное поведение зависит от реализации.