Теория
Как отбирали гиперпараметры моделей и как измеряли качество?
Подбирайте гиперпараметры на валидационных данных или кросс-валидации, соответствующей устройству задачи.
Читать ответ