转自：https://blog.csdn.net/jlei_apple/article/details/8168856 这两天在看关于boosting算法时，看到一篇不错的文章讲bootstrap, jackknife, bagging, boosting, random forest 都有介绍，以 ...
分类：
其他好文 时间：
2018-04-25 18:49:02
阅读次数：
183
说到ML中Boosting和Bagging，他们属于的是ML中的集成学习，集成学习法（Ensemble Learning） ① 将多个分类方法聚集在一起。以提高分类的准确率。 （这些算法能够是不同的算法，也能够是同样的算法。） ② 集成学习法由训练数据构建一组基分类器，然后通过对每一个基分类器的预測 ...
分类：
其他好文 时间：
2018-04-05 14:28:43
阅读次数：
190
以下关于决策树的内容来自网络，都是非常通俗易懂的。 一.GBDT简介 GBDT(Gradient Boosting Decision Tree) 是一种迭代的决策树算法，该算法由多棵决策树组成，所有树的结论累加起来做最终结果。它在被提出之初就和SVM一起被认为是泛化能力（generalization ...
分类：
其他好文 时间：
2018-04-03 15:27:48
阅读次数：
283
1、集成学习概述 1.1 集成学习概述 集成学习在机器学习算法中具有较高的准去率，不足之处就是模型的训练过程可能比较复杂，效率不是很高。目前接触较多的集成学习主要有2种：基于Boosting的和基于Bagging，前者的代表算法有Adaboost、GBDT、XGBOOST、后者的代表算法主要是随机森 ...
分类：
编程语言 时间：
2018-03-21 16:36:00
阅读次数：
194
集成学习实践部分也分成三块来讲解： sklearn官方文档：http://scikit-learn.org/stable/modules/ensemble.html#ensemble 1、GBDT 2、XGBoost 3、Adaboost 在sklearn中Adaboost库分成两个，分别是分类和回 ...
分类：
其他好文 时间：
2018-03-17 10:49:31
阅读次数：
290
集成学习中还有一个重要的类别是Boosting，这个是基学习器具有较强依赖串行而成的算法，目前主流的主要有三个算法：GBDT，Adaboost，XGBoost 这个链接可以看看：https://www.cnblogs.com/willnote/p/6801496.html boosting算法的原理 ...
分类：
其他好文 时间：
2018-03-16 18:43:23
阅读次数：
351
经过测试得出以下结论：1、传统的目标检测算法主要有以下几种：（1）基于Boosting框架：Haar/LBP/积分HOG/ACFfeature+Adaboost（2）基于SVM：HOG+SVMorDPM等（3）模版匹配（特殊情况下可以用到）人工特征和LBP，HAAR特征级联分类器容易出现找不到目标的情况，但是优点是响应速度快，硬件投入低，训练模型快速因为有时候找不到目标所以舍弃。2、现在采用深度学
分类：
编程语言 时间：
2018-03-14 11:20:34
阅读次数：
268
基础概念 随机森林是用随机的方式建立一个森林，森林里面有很多的决策树，并且每一棵决策树之间没有关联。也可说随机森林是决策树的组合模型，其中决策树的组合形式采用的是bagging的方式。 Bagging和Boosting（补充理解） Bagging方法： 从整体样本集合中，抽取n(n ...
分类：
其他好文 时间：
2018-03-13 23:56:22
阅读次数：
356
Boosting在分类问题中，通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类性能。AdaBoost最具代表性，由Freund和Schapire在1995年提出；Boost树在2000年由Friedman提出。 ...
分类：
其他好文 时间：
2018-03-08 20:18:27
阅读次数：
247
http://blog.csdn.net/willduan1/article/details/73618677 集成学习主要分为 bagging， boosting 和 stacking方法。本文主要是介绍stacking方法及其应用。但是在总结之前还是先回顾一下继承学习。 这部分主要转自知乎。 1 ...
分类：
其他好文 时间：
2018-03-06 21:49:24
阅读次数：
975
