Basis(基础)： MSE(Mean Square Error 均方误差)，LMS(LeastMean Square 最小均方)，LSM(Least Square Methods 最小二乘法)，MLE(MaximumLikelihood Estimation最大似然估计)，QP(Quadratic ...
分类：
其他好文 时间：
2017-08-19 18:34:39
阅读次数：
191
SRILM的主要目标是支持语言模型的估计和评测。估计是从训练数据（训练集）中得到一个模型，包括最大似然估计及相应的平滑算法；而评测则是从测试集中计算其困惑度。其最基础和最核心的模块是n-gram模块，这也是最早实现的模块，包括两个工 具：ngram-count和ngram，相应的被用来估计语言模型和 ...
分类：
编程语言 时间：
2017-08-07 11:42:42
阅读次数：
3712
对于最小二乘法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得模型能最好地拟合样本数据，也就是估计值和观测值之差的平方和最小。而对于最大似然法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。显然，这是从不同原理出发的两种参数 ...
分类：
其他好文 时间：
2017-07-28 21:00:21
阅读次数：
280
概述 通俗来讲，最大似然估计，就是利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参数值。 重要的假设是所有采样满足独立同分布。 求解模型参数过程 假如我们有一组连续变量的采样值（x1,x2,…,xn），我们知道这组数据服从正态分布，标准差已知。请问这个正态分布的期望值为多少时，产生这个已 ...
分类：
其他好文 时间：
2017-07-19 17:53:21
阅读次数：
128
模型已定，参数未知 最大似然估计提供了一种给定观察数据来评估模型参数的方法，假设我们要统计全国人口的身高，首先假设这个身高服从服从正态分布，但是该分布的均值与方差未知。我们没有人力与物力去统计全国每个人的身高，但是可以通过采样，获取部分人的身高，然后通过最大似然估计来获取上述假设中的正态分布的均值与 ...
分类：
其他好文 时间：
2017-06-02 22:55:56
阅读次数：
322
最大似然估计：现在已经拿到了很多个样本（你的数据集中所有因变量），这些样本值已经实现，最大似然估计就是去找到那个（组）参数估计值，使得前面已经实现的样本值发生概率最大。因为你手头上的样本已经实现了，其发生概率最大才符合逻辑。这时是求样本所有观测的联合概率最大化，是个连乘积，只要取对数，就变成了线性加 ...
分类：
其他好文 时间：
2017-06-01 10:16:10
阅读次数：
130
參考资料 [1] 盛骤, 谢式千, 潘承毅. 概率论和数理统计[J]. 2001. [2] https://en.wikipedia.org/wiki/Maximum_likelihood [3] https://www.youtube.com/watch?v=fvNUUJuFXM0 [4] htt ...
分类：
其他好文 时间：
2017-05-29 19:54:40
阅读次数：
232
最大似然法,英文名称是Maximum Likelihood Method，在统计中应用很广。这个方法的思想最早由高斯提出来，后来由菲舍加以推广并命名。 最大似然法是要解决这样一个问题：给定一组数据和一个参数待定的模型，如何确定模型的参数，使得这个确定参数后的模型在所有模型中产生已知数据的概率最大。通 ...
分类：
其他好文 时间：
2017-05-28 17:28:37
阅读次数：
229
原文在这里 机器学习十大算法之一：EM算法。能评得上十大之一，让人听起来觉得挺NB的。什么是NB啊，我们一般说某个人很NB，是因为他能解决一些别人解决不了的问题。神为什么是神，因为神能做很多人做不了的事。那么EM算法能解决什么问题呢？或者说EM算法是因为什么而来到这个世界上，还吸引了那么多世人的目光 ...
分类：
编程语言 时间：
2017-05-05 23:06:37
阅读次数：
239
原文链接 最大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。简单而言，假设我们要统计全国人口的身高，首先假设这个身高服从服从正态分布，但是该分布的均值与方差未知。我们没有人力与物力去统计全国每个人的身高，但是可以通过采样，获取部分人的身高，然后通过最大似然估计来获取 ...
分类：
其他好文 时间：
2017-04-27 11:38:04
阅读次数：
243
