Регуляризация добавляет к ошибке штраф за сложность коэффициентов: L2 уменьшает их величину, L1 может занулять часть весов. Это снижает дисперсию ценой возможного смещения.
Объясните принцип работы регуляризации в линейных моделях и её влияние на переобучение.
Регуляризация добавляет к ошибке штраф за сложность коэффициентов: L2 уменьшает их величину, L1 может занулять часть весов. Это снижает дисперсию ценой возможного смещения.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Регуляризация добавляет к ошибке штраф за сложность коэффициентов: L2 уменьшает их величину, L1 может занулять часть весов. Это снижает дисперсию ценой возможного смещения.
Силу штрафа подбирают на валидации без утечки. Масштабирование признаков важно, иначе одинаковый штраф по-разному влияет на их вклад. Слишком сильная регуляризация приводит к недообучению; она не исправляет неверную разметку и не заменяет корректное разбиение данных.