首先介绍下隐马尔可夫模型，它是一个时序的概率模型，概念书上有原话，大致的意思是：由一个隐马尔科夫链随机生成的无法观测的状态随机序列，每个状态再产生一个可以观测的随机序列，结合书上的例子，这个状态可以是一个盒子，观测值就是盒子里面取出来的是红球还是白球。 下面是一些定义： Q：所有可...
分类：
其他好文 时间：
2014-10-16 20:53:23
阅读次数：
309
SVM，支持向量机。数据挖掘中的一个经典算法，博主学了挺久，把学到的一些东西跟大家分享一下。
支持向量机(SVM,Support Vector Machine)是在高维特征空间使用线性函数假设空间的学习系统,它由一个来自最优化理论的学习算法训练,该算法实现了一个由统计学习理论到处的学习偏置.此学习策略由Vapnik和他的合作者提出,是一个准则性的
并且强有力的方法.在它提出来的若干年来,在范...
分类：
编程语言 时间：
2014-10-11 19:34:26
阅读次数：
352
（一）SVM的背景简单介绍支持向量机(Support Vector Machine)是Cortes和Vapnik于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出很多特有的优势，并可以推广应用到函数拟合等其它机器学习问题中[10]。支持向量机方法是建立在统计学习理论的VC 维理论和...
分类：
其他好文 时间：
2014-10-07 15:20:53
阅读次数：
367
支持向量机(SupportVectorMachine)是Cortes和Vapnik于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中[10]。支持向量机方法是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有..
分类：
其他好文 时间：
2014-10-01 01:07:40
阅读次数：
234
引言在模式识别中，经常碰到协方差矩阵这个概念，以前一直没搞懂，现在又碰到这个破玩意了，决定把他搞懂，下面就是做的笔记，与大家分享一下均值：标准差：方差：均值描述的是样本集合的样本的平均值,即平均水平.标准差给我们描述的则是样本集合的各个样本点到均值的平均距离,..
分类：
其他好文 时间：
2014-09-28 11:11:41
阅读次数：
281
贝叶斯统计是基于贝叶斯定理的一种经典的统计学习方法。假定样本为X，参数为θ，则贝叶斯统计为：P(θ|X)=P(X|θ)*P(θ)/P(X)。其中，P(θ)为先验分布，P(X|θ)表示似然概率，P(θ|X)表示后验分布。在贝叶斯统计中，最重要的一个问题是关于先验分布的选择，它会在很大程度上影响最终结果...
分类：
其他好文 时间：
2014-09-23 21:44:35
阅读次数：
177
《统计学习方法》笔记书籍ISBN：978-7-302-27595-4 第3章 k近邻法P37 3.1节 k近邻算法k近邻算法简单、直观：给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的k个实例，这k个实例的多数属于某个类，就把该输入实例分为这个类。算法描述如下：输入：训练数据集...
分类：
其他好文 时间：
2014-09-20 18:39:39
阅读次数：
1685
课程简介：
本讲通过回顾上一讲内容，引出了VC维的定义，它是由统计学习理论定义的有关函数集学习性能的一个重要指标。并通过例子证明函数集的VC维就是它能打散的最大样本数目。课程最后介绍VC维的应用，指出它反映了函数集的学习能力，VC维越大则学习机器越复杂...
分类：
其他好文 时间：
2014-09-11 23:57:02
阅读次数：
573
参考，隐马尔可夫模型（HMM）攻略 首先看看确定的状态序列，这种状态序列中状态的变化是确定的，比如 红绿灯，一定是绿灯->红灯->黄灯，这样的状态序列 当然也有些不确定状态序列，比如 天气，今天是晴天，你不能确定明天也一定是晴天或雨天 于是我们用概率来表示这种不确定性，称为马尔可夫过程 (Marko...
分类：
其他好文 时间：
2014-09-01 22:21:23
阅读次数：
426
这两天看《统计学习方法》，记录了一些基本的知识点。1.统计学习的方法 从给定的、有限的、用于学习的训练数据集合出发，假设数据时独立同分布产生；并且假设要学习的模型术语某个函数的集合，称为假设空间；应用某个评价准则，从假设空间中选取一个最优的模型，使他对已知训练数据及未知测试数据在给定的评价准则下有....
分类：
其他好文 时间：
2014-08-30 17:45:49
阅读次数：
220
