第一篇:提升树
提升树 提升树(boosting tree)是以分类树或回归树作为弱学习器的强学习器。 提升树模型用的是加法模型,算法用的是前向分步算法,弱学习器是决策树的集成学习方法。 提升树学习目标 加法模型 前向分步算法 提升树与AdaBoost算法 回归提升树流程 提升树优缺点 提升树引入 &em…
第二篇:梯度提升树
梯度提升树 梯度提升树(gradien boosting decision tree,GBDT)在工业上用途广泛,属于最流行、最实用的算法之一,梯度提升树可以看成是提升树的优化版。 梯度提升树学习目标 梯度提升树和提升树 回归梯度提升树流程 梯度提升树优缺点 梯度提升树详解 梯度提升树和提升树 梯度提…
第三篇:scikit-learn库之梯度提升树
scikit-learn库之梯度提升树 本文主要介绍梯度提升树的两个模型GradientBoostingClassifier和GradientBoostingRegressor,这两个模型调参包括两部分,第一部分是Bagging框架,第二部分是CART决策树的参数。本文会详解介绍GradientBoostingClassif…