http://wenku.baidu.com/link?url=Kcy8tvgkji4trmoijvM2Drc5GsSFJorkIUy-t-vNyx-gGJrCr7-725rmygLWBnCdnxtCTHoLV4_-EMQhqHcRjB3K4JBMySugOrMlQyfokJW ...
分类：
编程语言 时间：
2016-11-11 14:50:01
阅读次数：
179
（一）中我们谈到，如果带入样本分类的不确定性，我们要估计的（1）式就会变得相当复杂，为了绕开这个问题，靠的就是EM算法。 这里我决定倒着讲，可能更容易然大家理解。首先，说一下EM算法是怎么操作来让（4）式的最大值逼近（1）式的最大值的；接下来，会在几何的角度上证明我们的想法。最后，会把论文中提到的式 ...
分类：
编程语言 时间：
2016-10-22 17:05:03
阅读次数：
159
EM算法用于含有隐含变量的概率模型参数的极大似然估计。什么是隐含变量的概率模型呢？举个例子，假设有3枚硬币，分别记为A,B,C，它们正面出现的概率分别为r,p,q。每次实验先掷硬币A，如果出现的是正面就投B，如果出现的反面就投C，出现正面记为1，出现反面记为0。独立10次实验，观测结果如下：1101 ...
分类：
编程语言 时间：
2016-09-29 01:28:50
阅读次数：
239
最近接触了pLSA模型，由于该模型中引入了主题作为隐变量，所以需要使用期望最大化（Expectation Maximization）算法求解。 为什么需要EM算法 数理统计的基本问题就是根据样本所提供的信息，对总体的分布或者分布的数字特征作出统计推断。所谓总体，就是一个具有确定分布的随机变量，来自总 ...
分类：
编程语言 时间：
2016-08-16 19:57:14
阅读次数：
250
最近学习整理相关算法，发现EM算法和MLE估计都是十分优秀的算法。 首先最大似然估计是一种已知结果，通过改变参数theta使得这种结果出现的可能性最大。 而EM算法则是可以解决含有隐藏变量的问题。举个大家都用的例子，就是我们要统计某学校男女同学的身高，如果我们可以区分男女同学，那么用最大似然估计即可 ...
分类：
编程语言 时间：
2016-08-11 21:01:41
阅读次数：
225
高斯混合模型参数估计的EM算法，python实现 ...
分类：
编程语言 时间：
2016-07-22 22:50:22
阅读次数：
224
七月在线4月机器学习算法班课程笔记——No.8
1. 统计学习基础回顾1.1 先验概率与后验概率 先验概率：根据以往经验和分析得到的概率，如全概率公式，它往往作为”由因求果”问题中的”因”出现。
后验概率：依据得到”结果”信息所计算出的最有可能是那种事件发生，如贝叶斯公式中的，是”执果寻因”问题中的”因”。后验概率可以根据通过贝叶斯公式，用先验概率和似然函数计算出来。
贝叶斯定理：假设...
分类：
编程语言 时间：
2016-06-21 08:04:13
阅读次数：
2226
极大似然估计（MLE）提供了一种 给定观察数据来评估模型参数的方法，MLE 的问题形式是这样的，给定来自随机变量 $X$ 的数据集合 $\left \{ x_1,x_2 ,..., x_N \right \}$ , $X$ 的概率密度函数 $f(x|\theta)$ ,其中 $\theta$ 是为概 ...
分类：
编程语言 时间：
2016-06-06 18:30:10
阅读次数：
613
七月算法-12月机器学习在线班--第十四次课笔记—EM算法 七月算法（julyedu.com）12月机器学习在线班学习笔记http://www.julyedu.com EM Expection Maxium 期望最大化 1 引例 1000人，统计身高，1.75，1.62,1.94，有多少男女，每个身... ...
分类：
编程语言 时间：
2016-05-13 14:40:09
阅读次数：
194
