boosting 算法： 通过改变训练样本的权重，学习多个分类器，并将多个分类器线性组合，提升分类性能。（对于一个复杂任务，将多个专家的判断进行适当的综合得出的判断，要比任一一个单独的判断好） 将弱学习方法boost 为强学习算法。因为弱学习算法相对容易求得。提升算法就是从弱学习算法，出发反复学习， ...
分类：
其他好文 时间：
2017-09-10 13:28:15
阅读次数：
196
1. Scikit-learn Scikit-learn 是基于Scipy为机器学习建造的的一个Python模块，他的特色就是多样化的分类，回归和聚类的算法包括支持向量机，逻辑回归，朴素贝叶斯分类器，随机森林，Gradient Boosting，聚类算法和DBSCAN。而且也设计出了Python n ...
分类：
编程语言 时间：
2017-08-16 14:06:01
阅读次数：
285
本文结构： 什么是集成学习？ 为什么集成的效果就会好于单个学习器？ 如何生成个体学习器？ 什么是 Boosting? Adaboost 算法？ 什么是集成学习 集成学习就是将多个弱的学习器结合起来组成一个强的学习器。 这就涉及到，先产生一组‘个体学习器’，再用一个策略将它们结合起来。 个体学习器可以 ...
分类：
编程语言 时间：
2017-08-16 09:53:27
阅读次数：
250
1、集成学习概述 1.1 集成学习概述 集成学习在机器学习算法中具有较高的准去率，不足之处就是模型的训练过程可能比较复杂，效率不是很高。目前接触较多的集成学习主要有2种：基于Boosting的和基于Bagging，前者的代表算法有Adaboost、GBDT、XGBOOST、后者的代表算法主要是随机森 ...
分类：
编程语言 时间：
2017-08-08 16:40:54
阅读次数：
256
转自http://blog.csdn.net/lvhao92/article/details/51079018 集成学习大致分为两类，一类串行生成。如Boosting。一类为并行化。如Bagging和“随机森林”。 以下分别介绍： 1.Boosting 这种方法是先训练出一个基学习机。然后。对训练样 ...
分类：
其他好文 时间：
2017-07-31 13:21:51
阅读次数：
165
梳理 1.Model Ensemble 能够分为三大类：Bagging，Boosting。 Stacking. 2.Boosting能够说是一个思想（框架），而Adaboost等算法仅仅是其一个子类，记得ICCV2015有一个结合CNN和Boosting的工作获得了Best Paper Award？ ...
分类：
其他好文 时间：
2017-07-29 23:18:20
阅读次数：
178
1、什么是boosting tree 2、GBDT 3、L1和L2正则为何可以减弱over-fitting，L1和L2正则有什么区别？ 4、KNN和LR有什么本质区别 5、怎么理解Dropout 6、为什么random forest具有特征选择的功能？ 7、random forest有哪些重要的参数 ...
分类：
其他好文 时间：
2017-07-26 00:13:58
阅读次数：
234
sklearn特征选择和分类模型 数据格式： 这里。原始特征的输入文件的格式使用libsvm的格式，即每行是label index1:value1 index2:value2这样的稀疏矩阵的格式。 sklearn中自带了非常多种特征选择的算法。我们选用特征选择算法的根据是数据集和训练模型。 以下展示 ...
分类：
其他好文 时间：
2017-07-23 16:34:10
阅读次数：
302
多分类器组合算法简单的来讲经常使用的有voting,bagging和boosting，当中就效果来说Boosting略占优势，而AdaBoostM1算法又相当于Boosting算法的“经典款”。 Voting思想是使用多分类器进行投票组合。并依照少数服从多数（大多数情况）来决定终于的分类。缺点是少数 ...
分类：
编程语言 时间：
2017-07-05 13:31:36
阅读次数：
147
Multi Match Query multi_match查询建议在match query之上，并允许多字段查询： 【1】 查询字符串 【2】被查询的字段 fields and per-field boosting 字段可以通过通配符指定，例如： 【1】查询title,first_name和last ...
分类：
其他好文 时间：
2017-07-04 21:52:04
阅读次数：
173
