图片数据：卷积还是王道，有几个比较通用性的框架被人拿来改来改去 非图片特征数据：用分类： boost系列算法：牛逼的框架实现 xgboost AdaBoost算法针对不同的训练集训练同一个基本分类器（弱分类器），然后把这些在不同训练集上得到的分类器集合起来，构成一个更强的最终的分类器（强分类器）。理 ...
分类：
其他好文 时间：
2016-08-02 13:08:55
阅读次数：
227
一、集成方法： 1、什么是集成方法？ 集成方法，又称元算法，是对算法的一种集成。集成方法可以有多种形式，可以使对不同算法的集成，也可以是同一算法在不同设置下的集成 2、为什么采用集成方法？ 最通俗的理解，“三个臭皮匠，顶个诸葛亮”，对于分类，综合多个分类器的分类意见进行分类 3、弱分类器与强分类器 ...
分类：
其他好文 时间：
2016-07-24 16:17:07
阅读次数：
130
概念AdaBoost是一种级联算法模型，即把几个弱分类器级联到一起去处理同一个分类问题。也就是“三个臭皮匠顶一个诸葛亮”的道理。例如一个专家作出的判定往往没有几个专家一起作出的判定更准确。一种情况：如果每个专家都仅有一票的权利，采用投票机制的方法属于...
分类：
编程语言 时间：
2016-06-21 06:44:21
阅读次数：
294
基本概念Adaboost算法，将多个弱分类器，组合成强分类器。
AdaBoost，是英文”Adaptive Boosting“（自适应增强）的缩写，由Yoav Freund和Robert Schapire在1995年提出。
它的自适应在于：前一个弱分类器分错的样本的权值（样本对应的权值）会得到加强，权值更新后的样本再次被用来训练下一个新的弱分类器。在每轮训练中，用总体（样本总体）训练新的弱分类器...
分类：
编程语言 时间：
2016-06-03 19:15:28
阅读次数：
399
Boosting方法： Boosting这其实思想相当的简单，大概是，对一份数据，建立M个模型（比如分类），一般这种模型比较简单，称为弱分类器(weak learner)每次分类都将上一次分错的数据权重提高一点再进行分类，这样最终得到的分类器在测试数据与训练数据上都可以得到比较好的成绩。 上图（图片 ...
分类：
其他好文 时间：
2016-05-16 10:37:53
阅读次数：
254
随机森林和提升作者：樱花猪 摘要：本文为七月算法（julyedu.com）12月机器学习第十一次次课在线笔记。随机森林和提升都是机器学习将弱分类器融合成强分类器的方法。和我们熟悉的另一种机器学习模型SVM相比，这种方法更适合于大数据并且它的计算速度要比SVM快许多。 引言 因为最近做的事情需要用到随... ...
分类：
其他好文 时间：
2016-05-04 16:54:35
阅读次数：
550
作为集成学习的二个方法，其实bagging和boosting的实现比较容易理解，但是理论证明比较费力。下面首先介绍这两种方法。
所谓的集成学习，就是用多重或多个弱分类器结合为一个强分类器，从而达到提升分类方法效果。严格来说，集成学习并不算是一种分类器，而是一种分类器结合的方法。
1.bagging
bagging算是很基础的集成学习的方法，他的提出是为了增强分类器效果，但是在处理不平衡问题上...
分类：
其他好文 时间：
2016-04-26 22:09:00
阅读次数：
161
课程地址：https://class.coursera.org/ntumltwo-002/lecture 重要！重要！重要~ 一、决策树（Decision Tree）、口袋（Bagging），自适应增强（AdaBoost） Bagging和AdaBoost算法再分类的时候，是让所有的弱分类器同时发挥... ...
分类：
编程语言 时间：
2016-04-04 20:56:34
阅读次数：
510
课程地址：https://class.coursera.org/ntumltwo-002/lecture 重要！重要!重要~ 一、Adaptive Boosting 的动机 通过组合多个弱分类器（hypothese），构建一个更强大的分类器（hypothese），从而达到“三个臭皮匠赛过诸葛亮”的效... ...
分类：
编程语言 时间：
2016-04-04 16:14:03
阅读次数：
218
第8章提升方法
提升(boosting)方法是一种常用的统计学习方法，应用广泛且有效。在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类的性能。
基本思想：对于分类问题而言，给定一个训练样本集，求比较粗糙的分类规则(弱分类器)要比求精确的分类规则(强分类器)容易得多。提升方法就是从弱学习算法出发，反复学习，得到一系列弱分类器(又称为基本分类器)...
分类：
其他好文 时间：
2016-03-30 13:17:45
阅读次数：
291
