【AdaBoostClassifier】 Adaboost-参数： base_estimator:基分类器，默认是决策树，在该分类器基础上进行boosting，理论上可以是任意一个分类器，但是如果是其他分类器时需要指明样本权重。 n_estimators:基分类器提升（循环）次数，默认是50次，这个 ...
分类：
其他好文 时间：
2018-08-08 19:27:59
阅读次数：
1304
1、集成方法概述 集成学习（Ensemble Learning）有时也被笼统地称作提升（Boosting）方法，广泛用于分类和回归任务。它最初的思想很简单：使用一些（不同的）方法改变原始训练样本的分布，从而构建多个不同的分类器，并将这些分类器线性组合得到一个更强大的分类器，来做最后的决策。也就是常说 ...
分类：
其他好文 时间：
2018-08-02 01:55:22
阅读次数：
432
本文就对Boosting家族中另一个重要的算法梯度提升树(Gradient Boosting Decison Tree, 以下简称GBDT)做一个总结。GBDT有很多简称，有GBT（Gradient Boosting Tree）, GTB（Gradient Tree Boosting ）， GBRT ...
分类：
其他好文 时间：
2018-07-15 21:12:02
阅读次数：
267
1.提升算法 提升算法实为将一系列单一算法（如决策树，SVM等）单一算法组合在一起使得模型的准确率更高。这里先介绍两种Bagging(代表算法随机森林），Boosting（代表算法AdaBoost-即本篇核心） Bagging思想：以随机森林为例 假设样本集的总样本量为100个，每个样本有10个特征 ...
分类：
编程语言 时间：
2018-07-06 13:06:39
阅读次数：
200
Adaboost(Adaptive Boosting 自适应增强的缩写) 自适应表现及思路：前一个基本分类器分错的样本会得到加强，加权后的全体样本再次被用到来训练下一个基本分类器，同时，在每一轮中加入一个新的弱分类器，直达到某个预定的足够小的错误率或预先指定的最大迭代次数 算法流程：1）初始化训练数 ...
分类：
其他好文 时间：
2018-07-02 16:12:20
阅读次数：
138
1.强制竖屏浏览 x5-orientation 2.强制全屏显示 x5-fullscreen 3. uc 全屏显示 screen -orientation 4,禁止电话和邮箱 5.font boosting 7.fixed 方法一： 头部根据html来定位，但是会有回弹 ios的body 的over ...
分类：
移动开发 时间：
2018-06-26 23:47:52
阅读次数：
259
1、Bike Sharing Demand kaggle: https://www.kaggle.com/c/bike-sharing-demand 目的：根据日期、时间、天气、温度等特征，预测自行车的租借量 处理：1、将日期（含年月日时分秒）提取出年，月， 星期几，以及小时 2、season, w ...
分类：
其他好文 时间：
2018-06-19 11:56:25
阅读次数：
192
一、前述 在 Kaggle 的很多比赛中，我们可以看到很多 winner 喜欢用 xgboost，而且获得非常好的表现，今天就来看看 xgboost 到底是什么以及如何应用。Gradient boosting 是 boosting 的其中一种方法，所谓 Boosting ，就是将弱分离器 f_i(x ...
分类：
其他好文 时间：
2018-06-14 11:39:02
阅读次数：
172
"集成学习之Boosting —— AdaBoost原理" "集成学习之Boosting —— AdaBoost实现" 集成学习之Boosting —— Gradient Boosting原理 "集成学习之Boosting —— Gradient Boosting实现" 上一篇介绍了AdaBoost ...
分类：
其他好文 时间：
2018-06-13 18:12:10
阅读次数：
185
Gradient Boosting的一般算法流程 1. 初始化： $f_0(x) = \mathop{\arg\min}\limits_\gamma \sum\limits_{i=1}^N L(y_i, \gamma)$ 2. for m=1 to M: (a) 计算负梯度： $\tilde{y}_ ...
分类：
其他好文 时间：
2018-06-11 19:02:49
阅读次数：
217
