在集成学习原理小结中,我们讲到了集成学习按照个体学习器之间是否存在依赖关系可以分为两类,第一个是个体学习器之间存在强依赖关系,另一类是个体学习器之间不存在强依赖关系。前者的代表算法就是是boosting系列算法。在boosting系列算法中, Adaboost是最著名的算法之一。Adaboost既可 ...
分类:
编程语言 时间:
2016-12-06 01:59:10
阅读次数:
207
摘要: 1.示例 2.模型主要参数 3.模型主要属性变量 ...
分类:
编程语言 时间:
2016-11-28 14:40:57
阅读次数:
600
1 booststraping:意思是依靠你自己的资源,称为自助法,它是一种有放回的抽样方法,它是非参数统计中一种重要的估计统计量方差进而进行区间估计的统计方法。 其核心思想和基本步骤如下: (1)采用重抽样技术从原始样本中抽取一定数量(自己给定)的样本,此过程允许重复抽样。 (2)根据抽出的样本计 ...
分类:
其他好文 时间:
2016-11-11 07:19:50
阅读次数:
2389
判别式模型与生成式模型的区别 产生式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念,它们的区别在于: 对于输入x,类别标签y:产生式模型估计它们的联合概率分布P(x,y)判别式模型估计条件概率分布P(y|x)产生式模型可以根据贝叶斯公 ...
分类:
其他好文 时间:
2016-10-23 17:28:48
阅读次数:
172
上两篇说了决策树到集成学习的大概,这节我们通过adaboost来具体了解一下集成学习的简单做法。 集成学习有bagging和boosting两种不同的思路,bagging的代表是随机森林,boosting比较基础的adaboost,高级一点有GBDT,在这里我也说下我理解的这两个做法的核心区别: 随 ...
分类:
其他好文 时间:
2016-10-18 02:33:46
阅读次数:
242
这篇文章详细地介绍了GBM模型。我们首先了解了何为boosting,然后详细介绍了各种参数。 这些参数可以被分为3类:树参数,boosting参数,和其他影响模型的参数。最后我们提到了用GBM解决问题...
分类:
编程语言 时间:
2016-09-25 23:34:33
阅读次数:
1581
嵌入级联分类器nested cascade detector detector AdaBoost Real AdaBoost读"C. Huang, H. Ai, B. Wu, and S. Lao, 'Boosting Nested Cascade Detector for Multi-View F... ...
分类:
其他好文 时间:
2016-09-15 21:36:12
阅读次数:
291
AdaBoost 和 Real Adaboost 总结AdaBoost Real AdaBoostAdaBoostAdaBoost, Adaptive Boosting(自适应增强), 是一种集成学习算法(ensemble learning),由Yoav Freund 和 Robert Schapi... ...
分类:
其他好文 时间:
2016-09-15 17:57:00
阅读次数:
139
How to Configure the Gradient Boosting Algorithm by Jason Brownlee on September 12, 2016 in XGBoost 0 0 0 0 0 0 0 0 Gradient boosting is one of the mo ...
分类:
其他好文 时间:
2016-09-14 00:23:30
阅读次数:
755
A Gentle Introduction to the Gradient Boosting Algorithm for Machine Learning by Jason Brownlee on September 9, 2016 in XGBoost 0 0 0 0 0 0 0 0 Gradie ...
分类:
系统相关 时间:
2016-09-14 00:21:30
阅读次数:
216