С какими инструментами градиентного бустинга работали? CatBoost, LightGBM, XGBoost?

Основные реализации бустинга, с которыми часто работают:

• Gradient Boosting Machines (GBM) — классический градиентный бустинг, реализованный, например, в библиотеке scikit-learn.
• XGBoost — высокоэффективная и популярная реализация градиентного бустинга с оптимизациями по скорости и памяти.
• LightGBM — реализация от Microsoft, использующая листовой рост деревьев и оптимизации для больших данных.
• CatBoost — от Яндекса, хорошо работает с категориальными признаками и имеет встроенную обработку пропусков.

Каждая из этих реализаций имеет свои особенности и преимущества, выбор зависит от задачи и данных.