参考，隐马尔可夫模型（HMM）攻略 首先看看确定的状态序列，这种状态序列中状态的变化是确定的，比如 红绿灯，一定是绿灯->红灯->黄灯，这样的状态序列 当然也有些不确定状态序列，比如 天气，今天是晴天，你不能确定明天也一定是晴天或雨天 于是我们用概率来表示这种不确定性，称为马尔可夫过程 (Marko...
分类：
其他好文 时间：
2014-09-01 22:21:23
阅读次数：
426
这两天看《统计学习方法》，记录了一些基本的知识点。1.统计学习的方法 从给定的、有限的、用于学习的训练数据集合出发，假设数据时独立同分布产生；并且假设要学习的模型术语某个函数的集合，称为假设空间；应用某个评价准则，从假设空间中选取一个最优的模型，使他对已知训练数据及未知测试数据在给定的评价准则下有....
分类：
其他好文 时间：
2014-08-30 17:45:49
阅读次数：
220
第二章 感知机感觉感知机这东西还是很简单的，随便写点。感知机（perceptron）是二分类的线性分类器。输入x表示实例的特征向量，输出y为实例的类别，由如下函数表示： 其中w为权值（weight）或权值向量（weight vector），b表示偏置（bias），sign为符号函数，里面的东西大于....
分类：
其他好文 时间：
2014-08-27 20:21:48
阅读次数：
241
第一章 统计学习方法概述1.1 统计学习 统计学习(statistical learning)是关于计算机基于数据概率模型并运用模型进行预测和分析的学科。统计学习也称为统计机器学习，现在人们提及的机器学习一般都是指统计机器学习。 统计学习的对象是数据(data)，关于数据的基本假设是同类数据具有.....
分类：
其他好文 时间：
2014-08-27 18:26:38
阅读次数：
135
AdaBoost算法 基本思想是，对于一个复杂的问题，单独用一个分类算法判断比较困难，那么我们就用一组分类器来进行综合判断，得到结果，“三个臭皮匠顶一个诸葛亮” 专业的说法， 强可学习（strongly learnable），存在一个多项式算法可以学习，并且准确率很高 弱可学习（weakly lea...
分类：
其他好文 时间：
2014-08-26 17:06:26
阅读次数：
247
监督学习（supervised learning）的任务是学习一个模型，使模型能够对任意给定的输入，对其相应的输出做出一个好的预测，计算机的基本操作就是给定一个输入产生一个输出。基本概念：输入空间、特征空间与输出空间 在监督学习中，将输入与输出所有可能取值的集合分别称为输入空间（input sp.....
分类：
其他好文 时间：
2014-08-14 01:05:47
阅读次数：
421
1. 统计学习统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科，也称统计机器学习。学习就是如果一个系统能够通过执行某个过程改进它的性能，这就是学习。统计学习的对象是数据，它从数据出发，提取数据的特征，抽象出数据的模型，发现数据中的知识，又回到对数据的分析与预测中去...
分类：
其他好文 时间：
2014-07-16 12:42:25
阅读次数：
275
学习统计学习方法也已经有几天了，在这几天的时间里，我主要对分类学习方法进行了初步学习，包括：感知机——>支持向量机，K近邻法，朴素贝叶斯法，决策树，logistic
回归与最大熵模型。 其中k近邻法的实现为kd树，朴素贝叶斯通过极大似然估计实现，决策树包含有生成决策树算法ID3,C4.5，决策...
分类：
其他好文 时间：
2014-05-10 03:06:00
阅读次数：
225
一
统计学习方法概述统计学习对象：数据-->数据特征-->数据模型-->知识-->预测统计学习关于数据的假设：
具有一定统计规律性的同类数据。统计学习目的： 对数据进行预测与分析，尤其是对未知新数据进行分析预测。通过构建概率统计模型实现。统计学习方法：
监督学习，非监督学习，半监督学习，强化学习监督...
分类：
其他好文 时间：
2014-04-28 01:04:26
阅读次数：
583
