【机器学习】XGB/LGBM

本文主要是介绍【机器学习】XGB/LGBM，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

XGBoost的decision tree用的是pre-sorted based的算法，也就是在tree building之前对各维特征先排序，代表性的算法是SLIQ和SPRINT。SLIQ和SPRINT算法的特点决定了树生长的方式是level-wise(breadth-first)的。

而LightGBM的decision tree是histogram based的算法，也就是先将特征离散化，代表性的算法是CLOUDS,Mcrank和Machado。即采用leaf-wise的方式。

Catboost

参考：

GitHub - wepe/efficient-decision-tree-notes: 高效决策树算法系列笔记

Features — LightGBM 4.1.0.99 documentation

这篇关于【机器学习】XGB/LGBM的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---