第一章 统计学习方法概论统计学习的主要特点是:(1)统计学习以计算机及网络为平台，是建立在计算机及网络之上的;(2)统计学习以数据为研究对象，是数据驱动的学科；(3)统计学习的目的是对数据进行预测与分析；(4)统计学习以方法为中心，统计学习方法构建模型并应用模型进行预测与分析;(5)统计学习是概率论...
分类：
其他好文 时间：
2015-07-26 10:59:30
阅读次数：
322
第2章 感知机感知机(perceptron)是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面，属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面，为此，导入基于误分类的损失函数，利...
分类：
其他好文 时间：
2015-07-26 10:59:12
阅读次数：
253
什么是感知机二分类的线性分类模型，输入是实例的特征向量，输出是实例的类别，取-1和+1两值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面，属于判别模型。感知机是神经网络和支持向量机的基础。模型的使用条件数据集需要是线性可分的，同时，如果数据集是线性可分的话，经过一定的迭代次数一...
分类：
其他好文 时间：
2015-07-14 17:13:43
阅读次数：
91
原文：http://zhouyichu.com/machine-learning/Statistical-Learning-Introduction.html统计学习统计学习的特点统计学习(statistical learning)是关于计算机给予数据构建概率统计模型并运用模型对数据进行预测与分析的...
分类：
其他好文 时间：
2015-07-12 20:11:38
阅读次数：
199
本文是要配合《统计学习方法》才能看懂的，因为中间有些符号和定义是直接使用书本中的先弄明白以下三个公式：1）Boost（提升法）=加法模型（即基函数的线性组合）+前向分步算法+损失函数2）Adaboost=Boost+损失函数是指数函数（基函数可以任意）3）提升树=Boost+基函数是决策树（损失函数...
分类：
其他好文 时间：
2015-07-07 10:59:09
阅读次数：
241
最近在看李航的统计学习方法P11时发现一个多项式函数拟合问题觉得公式的推导有问题，于是看了一些资料发现这里的推倒是有错误的，用python编程验证后发现按书上的求导结果拟合后的函数图像完全不对，下面给出正确的推导结果和对应的python实现与拟合效果。...
分类：
其他好文 时间：
2015-07-05 09:41:04
阅读次数：
342
《统计学习方法》第9章 EM算法及其推广 EM算法是一种迭代算法，用于含有隐含变量（hidden variable）的概率模型参数的极大似然估计，或极大后验概率估计。 EM算法的每次迭代由两步组成： E步，求期望（expectation）； M步，求极大（maximization）。 所以这一算法成...
分类：
编程语言 时间：
2015-06-24 16:00:38
阅读次数：
194
http://blog.csdn.net/abcjennifer/article/details/8164315本文从统计学角度讲解了CART（Classification And Regression Tree）, Bagging(bootstrap aggregation), Random Fo...
分类：
其他好文 时间：
2015-06-20 17:04:28
阅读次数：
150
HMM（hidden markov model）可以用于模式识别，李开复老师就是采用了HMM完成了语音识别。一下的例子来自于《统计学习方法》一个HMM由初始概率分布，状态转移概率分布，观测概率分布确定。并且基于两个假设：1 假设任意时刻t的状态只依赖于前一个时刻的状态，与其他时刻的状态和观测序列无关...
分类：
编程语言 时间：
2015-06-15 22:04:26
阅读次数：
207
决策树（decision tree）是一种基本的分类与回归方法。 决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。 它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其 主要优点是模型具有可读性，分类速度快。学习时，利用训练数据，根据损失...
分类：
其他好文 时间：
2015-06-14 18:17:29
阅读次数：
2162
