R中的adabag包均有函数实现bagging和adaboost的分类建模（另外，ipred包中的bagging（）函数可以实现bagging回归）。第一题就利用adabag包实现bagging和adaboost建模，并根据预测结果选择最优模型。
a) 为了描述这两种方式，先利用全部数据建立模型：
利用boosting（）（原来的adaboost.M1（）函数）建立adaboost分...
分类：
其他好文 时间：
2014-12-26 14:42:54
阅读次数：
274
本章翻译自Elasticsearch官方指南的Controlling
Relevance一章。
通过查询结构调整相关度
ES提供的查询DSL是相当灵活的。你可以通过将单独的查询子句在查询层次中上下移动来让它更重要/更不重要。比如，下面的查询：
quick OR brown OR red OR fox
我们可以使用一个bool查询，对所有词条一视同仁：...
分类：
其他好文 时间：
2014-12-25 01:30:42
阅读次数：
251
最近在看机器学习中adaboost（adaptive boostint）算法部分的内容，在csdn上面查找一番发现，好像没有讲的特别的详尽的，当然可能是我人品不佳，所以没有找到，为了防止同样的事情发生在其他人的身上，所以就写了这篇博文，尽量多的解释算法的推演过程更方便的大家去理解这个算法。
介绍adaboost算法之前，首先介绍一下学习算法的强弱，这个是PAC定义的：弱学习算法-...
分类：
编程语言 时间：
2014-12-24 21:38:21
阅读次数：
447
AdaBoost算法有AdaBoost.M1和AdaBoost.M2两种算法，AdaBoost.M1是我们通常所说的Discrete AdaBoost，而AdaBoost.M2是M1的泛化形式。关于AdaBoost算法的一个结论是:当弱分类器算法使用简单的分类方法时,boosting的效果明显地统一地比bagging要好.当弱分类器算法使用C4.5时,boosting比bagging较好,但是没有前者明显。后来又有学者提出了解决多标签问题的AdaBoost.MH和AdaBoost.MR算法,其中AdaBoo...
分类：
编程语言 时间：
2014-12-04 14:02:17
阅读次数：
342
AdaBoost（自适应boosting，adaptive boosting）算法算法优缺点：优点：泛化错误率低，易编码，可用在绝大部分分类器上，无参数调整缺点：对离群点敏感适用数据类型：数值型和标称型元算法（meta algorithm）在分类问题中，我们可能不会只想用一个分类器，我们会考虑将分类...
分类：
编程语言 时间：
2014-12-04 00:55:58
阅读次数：
399
转载自http://leftnoteasy.cnblogs.com机器学习中的数学系列：1)回归(regression)、梯度下降(gradient descent)2)线性回归，偏差、方差权衡3)模型组合(Model Combining)之Boosting与Gradient Boosting4)线...
分类：
其他好文 时间：
2014-11-28 18:13:25
阅读次数：
181
Haar特征与积分图1. Adaboost方法的引入1.1 Boosting方法的提出和发展 在了解Adaboost方法之前，先了解一下Boosting方法。 回答一个是与否的问题，随机猜测可以获得50%的正确率。如果一种方法能获得比随机猜测稍微高一点的正确率，则就可以称该得到这个方法的过程为弱学习...
分类：
其他好文 时间：
2014-11-26 13:50:02
阅读次数：
217
转自：http://blog.csdn.net/weixingstudio/article/details/7631241Haar特征与积分图1. Adaboost方法的引入1.1 Boosting方法的提出和发展 在了解Adaboost方法之前，先了解一下Boosting方法。 回答一个是与否的问...
分类：
其他好文 时间：
2014-11-01 17:41:39
阅读次数：
229
AdaBoost算法 基本思想是，对于一个复杂的问题，单独用一个分类算法判断比较困难，那么我们就用一组分类器来进行综合判断，得到结果，“三个臭皮匠顶一个诸葛亮” 专业的说法， 强可学习（strongly learnable），存在一个多项式算法可以学习，并且准确率很高 弱可学习（weakly lea...
分类：
其他好文 时间：
2014-08-26 17:06:26
阅读次数：
247
Boosting简单介绍分类中通常使用将多个弱分类器组合成强分类器进行分类的方法，统称为集成分类方法（Ensemble Method）。比較简单的如在Boosting之前出现Bagging的方法，首先从从总体样本集合中抽样採取不同的训练集训练弱分类器，然后使用多个弱分类器进行voting，终于的结果...
分类：
其他好文 时间：
2014-08-24 10:16:42
阅读次数：
199
