Как меняются bias, variance и переобучение при увеличении числа деревьев в случайном лесе и в бустинге?

В случайном лесе больше деревьев обычно уменьшает вариативность усреднения до некоторого предела. В бустинге новые деревья продолжают подгонку остаточных ошибок и могут усилить переобучение.

У леса bias определяется прежде всего базовыми деревьями и признаками; коррелированные деревья ограничивают эффект усреднения. У boosting результат зависит от learning rate, глубины и регуляризации, поэтому нужен validation и early stopping. Это общие тенденции, а не строгая монотонность test-ошибки.