思路：通过改变训练样本权重，学习多个分类器，并将这些分类器进行线性组合，提高分类器性能。大多数提升方法都是改变训练数据的概率分布（数据的权值） 强可学习：存在一个多项式的学习算法能够学习他，并且正确率很高 弱可学习：存在一个多项式学习算法学习，正确率比随机猜测要好一些 具体问题： （1）在每一轮如何 ...
分类：
编程语言 时间：
2018-05-12 14:22:07
阅读次数：
177
整理自： https://blog.csdn.net/woaidapaopao/article/details/77806273?locationnum=9&fps=1 AdaBoost GBDT Xgboost 1.AdaBoost Boosting的本质实际上是一个加法模型，通过改变训练样本权重 ...
分类：
其他好文 时间：
2018-05-09 22:50:31
阅读次数：
234
1、Adaboost算法原理，优缺点： 理论上任何学习器都可以用于Adaboost.但一般来说，使用最广泛的Adaboost弱学习器是决策树和神经网络。对于决策树，Adaboost分类用了CART分类树，而Adaboost回归用了CART回归树。 Adaboost算法可以简述为三个步骤： （1）首先 ...
分类：
其他好文 时间：
2018-05-06 12:13:01
阅读次数：
15120
元算法背后的思路是对其他算法进行组合的一种方式，A daboost是最为流行的元算法，是机器学习中最强有力的工具之一 组合方式有不同算法之间的组合，也可以是同一算法在不同设置下的集成，还可以是数据集不同部分分配给不同分类器之后的集成 优点：泛化错误率低，易编码，可应用于大部分的分类器上，无参数需调整 ...
分类：
编程语言 时间：
2018-05-03 15:32:54
阅读次数：
243
AdaBoost是一种迭代型的算法，其核心思想是针对同一个训练集训练不同的学习算法，即弱学习算法，然后将这些弱学习算法集合起来，构造一个更强的最终学习算法。 用于二分类或多分类的应用场景 在AdaBoost算法中，有两个权重，第一个数训练集中每个样本有一个权重，称为样本权重，用向量D表示；另一个是每 ...
分类：
其他好文 时间：
2018-04-26 12:05:24
阅读次数：
222
介绍项目： 局部敏感哈希？ 如何做召回？ 如何用模型做对话系统？ 背诵题： 什么是卷积？ 什么是窄卷积，什么是宽卷积？（没答上来，，，日了狗了！！！） 补零(Zero-padding)：补零也叫宽卷积，不补零就叫窄卷积。 xgb gbdt rf adaboost 之间的区别联系？ relu 与sig ...
分类：
编程语言 时间：
2018-04-24 21:49:37
阅读次数：
154
说到ML中Boosting和Bagging，他们属于的是ML中的集成学习，集成学习法（Ensemble Learning） ① 将多个分类方法聚集在一起。以提高分类的准确率。 （这些算法能够是不同的算法，也能够是同样的算法。） ② 集成学习法由训练数据构建一组基分类器，然后通过对每一个基分类器的预測 ...
分类：
其他好文 时间：
2018-04-05 14:28:43
阅读次数：
190
1、集成学习概述 1.1 集成学习概述 集成学习在机器学习算法中具有较高的准去率，不足之处就是模型的训练过程可能比较复杂，效率不是很高。目前接触较多的集成学习主要有2种：基于Boosting的和基于Bagging，前者的代表算法有Adaboost、GBDT、XGBOOST、后者的代表算法主要是随机森 ...
分类：
编程语言 时间：
2018-03-21 16:36:00
阅读次数：
194
最大熵模型与GIS ，IIS算法 CSDN博客 http://blog.csdn.net/u014688145/article/details/55003910 Adaboost 算法的原理与推导 CSDN博客 http://blog.csdn.net/v_july_v/article/detail ...
分类：
其他好文 时间：
2018-03-21 11:45:49
阅读次数：
223
集成学习实践部分也分成三块来讲解： sklearn官方文档：http://scikit-learn.org/stable/modules/ensemble.html#ensemble 1、GBDT 2、XGBoost 3、Adaboost 在sklearn中Adaboost库分成两个，分别是分类和回 ...
分类：
其他好文 时间：
2018-03-17 10:49:31
阅读次数：
290
