Как именно BatchNorm использует сохранённые статистики в режиме `eval()` и почему это важно для стабильности результатов?

Если не вызвать model.eval() на этапе валидации в PyTorch, модель останется в режиме обучения (train), что приведёт к следующим последствиям:

• Поведение слоёв, таких как Dropout и BatchNorm, останется активным. Dropout будет случайно обнулять части входных данных, а BatchNorm будет использовать статистики текущего батча вместо накопленных средних и дисперсий.
• Это может привести к нестабильным и некорректным результатам на валидационном наборе, так как модель ведёт себя иначе, чем при реальном использовании.
• В итоге метрики качества (например, точность или ошибка) будут искажены и не отражают реальную производительность модели.

Поэтому важно переключать модель в режим оценки с помощью model.eval() перед валидацией, чтобы обеспечить корректное поведение всех слоёв и получить достоверные результаты.