У единственного присутствующего класса вероятность 1, у остальных 0, поэтому Gini = 1 − 1 = 0. Узел полностью однороден по целевой метке.
Почему impurity равна нулю для одного класса
У единственного присутствующего класса вероятность 1, у остальных 0, поэтому Gini = 1 − 1 = 0. Узел полностью однороден по целевой метке.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Условие
Используется критерий Gini: 1 − Σ pᵢ², где pᵢ — доля класса. Почему для узла, содержащего только один класс, функция возвращает 0?
Ответ
У единственного присутствующего класса вероятность 1, у остальных 0, поэтому Gini = 1 − 1 = 0. Узел полностью однороден по целевой метке.
Это не означает идеальную модель в целом: речь только об impurity данного узла. Для пустой выборки доли не определены, поэтому нужен отдельный контракт. Не переносите вывод автоматически на ROC-AUC: при одном классе эта метрика не имеет обычного содержательного определения.