这两篇文章讲的比较深入 GBDT 入门教程之原理、所解决的问题、应用场景讲解 机器学习(23)之GBDT详解 ...
分类：
其他好文 时间：
2018-03-10 01:24:22
阅读次数：
170
id3 信息增益 c4.5 信息增益比 CART 基尼指数 参考 优缺点： 决策树算法原理 (上) 决策树算法原理 (下) 简略介绍： [Machine Learning & Algorithm] 决策树与迭代决策树（GBDT） 1.熵的概念 首先，我们需要熟悉信息论中熵的概念。熵度量了事物的不确定 ...
分类：
其他好文 时间：
2018-03-07 18:56:45
阅读次数：
162
GBDT 序言 GBDT (Gradient Boosting Decision Tree)又叫MART (Multiple Additive Regression Tree)，是一种迭代的决策树算法，即该算法由多棵决策树组成，所有决策树的预测结果累加起来做最终答案。 正文 Gradient Boo ...
分类：
其他好文 时间：
2018-03-05 11:14:57
阅读次数：
219
（本节课各种数学式子比较多。。。。。^_^） 决策树 Decision Tree? 介绍? 熵 Entropy? 信息增益 Information Gain? 常见算法? 过度拟合 Overfitting? 剪枝 Prune? 增益率 GainRatio? 更多的DT应?场景类别：? 连续函数，多分 ...
分类：
其他好文 时间：
2018-02-19 14:21:19
阅读次数：
193
决策树的原理很简单：一颗由多个判断节点组成的树。因为其应用之广，也有许许多多的衍生(Random Forest， GBDT，XGBOOST)。我想确实很有必要做一个总结。 决策树的一些优点是： 简单理解和解释。树可以被可视化。 需要很少的数据准备。其他技术通常需要数据标准化，需要创建虚拟变量，并删除 ...
分类：
其他好文 时间：
2018-02-08 13:38:57
阅读次数：
199
目录 xgboost原理 xgboost和gbdt的区别 xgboost安装 实战 xgboost原理 xgboost是一个提升模型，即训练多个分类器，然后将这些分类器串联起来，达到最终的预测效果。每一个基分类器都是一个弱分类器，但是很多串联起来后效果很强大。 工作原理： 每次加入一棵新树是为了让目 ...
分类：
其他好文 时间：
2018-01-27 20:21:10
阅读次数：
305
在做阿里的o2o优惠券预测的时候学习了GBDT。听闻GBDT的威力，自然要学习学习。 接下来从以下几个方面记录下我对于GBDT的理解。 GBDT的用途，优势 GBDT的结构和算法流程 GBDT如何训练 Sklearn 的GBDT使用，参数意义 GBDT的用途，优势： GBDT(Gradient Bo ...
分类：
其他好文 时间：
2018-01-24 16:49:52
阅读次数：
492
概念梳理 GBDT的别称 GBDT(Gradient Boost Decision Tree),梯度提升决策树。 GBDT这个算法还有一些其他的名字，比如说MART(Multiple Additive Regression Tree)，GBRT(Gradient Boost Regression T ...
分类：
其他好文 时间：
2018-01-22 13:02:33
阅读次数：
330
从提升树出发，——》回归提升树、二元分类、多元分类三个GBDT常见算法。 提升树 梯度提升树 回归提升树 二元分类 多元分类 面经 回归提升树 二元分类 多元分类 提升树 在说GBDT之前，先说说提升树（boosting tree）。说到提升（boosting），总是绕不过AdaBoost。 Ada ...
分类：
其他好文 时间：
2018-01-17 12:33:07
阅读次数：
381
Lecture 10：Random Forest 10.1 Random Forest Algorithm 10.2 Out-of-Bag Estimate 10.3 Feature Selection 10.4 Random Forest in Action 题外话： T1：Tree ！ Tree ...
分类：
其他好文 时间：
2018-01-12 20:23:10
阅读次数：
162
