一起啃PRML - 1.2.2 Expectations and covariances 期望和协方差 @copyright 转载请注明出处 http://www.cnblogs.com/chxer/ 涉及到概率的一个重要的操作是寻找函数的加权平均值。在概率分布p(x)下,函数f(x)的平均值被称为 ...
分类：
其他好文 时间：
2016-04-02 20:14:46
阅读次数：
149
1.全概率分布 2.贝叶斯定理 3.二维场景下定位： 二维场景由二维数组描述，有红和绿两种颜色 motions数组: 存储动作 ([0,1]向右,[0,-1]向左,[1,0]向下,[-1,0]向上) measurements数组: 监测当前所在地点脚下的颜色。 步骤: (1)判断motions数组和 ...
分类：
其他好文 时间：
2016-03-31 18:42:30
阅读次数：
123
第11章 条件随机场
条件随机场(conditional random field, CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型，其特点是假设输出随机变量构成马尔可夫随机场。条件随机场可以用于不同的预测问题，本章主要讲述线性链(linear chain)条件随机场在标注问题的应用，这时问题变成了由输入序列对输出序列预测的判别模型，形式为对数线性模型，其学习方法通常是...
分类：
其他好文 时间：
2016-03-30 13:14:33
阅读次数：
290
第4章 朴素贝叶斯法
朴素贝叶斯 (naive Bayes) 法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出Y。
4.1 朴素贝叶斯法的学习与分类
基本方法
朴素贝叶斯法通过训练数据集学习X和Y的联合概率分布
P(X,Y)。
...
分类：
其他好文 时间：
2016-03-30 13:13:26
阅读次数：
320
第5章 决策树
决策树(decision tree)是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类速度快。学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型。预测时，对新的数据，利用决...
分类：
其他好文 时间：
2016-03-30 13:13:19
阅读次数：
248
4.1朴素贝斯法的学习与分类
4.1.1基本方法
设输入空间为n维向量的集合，输出空间为类标记。P(X,Y)是X和Y的联合概率分布。训练数据集由P(X,Y)独立同分布产生。
朴素贝叶斯法通过训练数据集学习联合概率分布P(X,Y)，即先验概率分布和条件概率分布，从而学到联合概率分布P(X,Y)。
条件概率分布有指数级的参数，假设可能的取值有...
分类：
其他好文 时间：
2016-03-29 10:54:44
阅读次数：
142
1、结论 测量误差（测量）服从高斯分布的情况下， 最小二乘法等价于极大似然估计。 2、最大似然估计 最大似然估计就是通过求解最大的（1）式得到参数，其中 L 函数称为参数的似然函数，是一个概率分布函数。 ...
分类：
其他好文 时间：
2016-03-09 12:44:28
阅读次数：
136
LSA latent semantic analysis 映射词-文档到一个低维隐语义空间 比较词和文档在低纬空间的相似性 topic 是 Vocab 上的概率分布（符合多项式分布） 文档到主题的一个分布，主题到词库的分布，通过训练得到这两个分布模型 plsa 模型 LDA模型 大规模LDA系统 s
分类：
其他好文 时间：
2016-02-29 18:07:56
阅读次数：
233
官方定义：令 表示一个可测的参数空间， 描述某一个类别的参数。令H是空间 上的一个概率测度， 表示一个正实数。对于空间上的任意一个有限分割 : 如果空间上的一个随机概率分布G在这个分割中各部分上的测度服从一个狄利克雷分布： , 那么我们就称随机概率分布G 服从狄利克雷过程，记为 . 我们把 叫做集....
分类：
其他好文 时间：
2016-01-21 10:40:36
阅读次数：
211
复习： 1.概率密度函数，密度函数，概率分布函数和累计分布函数概率密度函数一般以大写“PDF”（ProbabilityDensityFunction），也称概率分布函数，有的时候又简称概率分布函数。 而累计分布函数是概率分布函数的积分。 注意区分从数学上看，累计分布函数F(x)=P(X_<这个我可不...
分类：
其他好文 时间：
2016-01-20 06:17:56
阅读次数：
449
