在数理统计学中，似然函数是一种关于统计模型中的参数的函数，表示模型参数中的似然性。似然函数在统计推断中有重大作用，如在最大似然估计和费雪信息之中的应用等等。“似然性”与“或然性”或“概率”意思相近，都是指某种事件发生的可能性，但是在统计学中，“似然性”和“或然性”或“概率”又有明确的区分。概率用于在...
分类：
其他好文 时间：
2015-12-03 00:49:26
阅读次数：
133
对于常规线性模型来说，其精确的模型可定义如下： 其中，模型中的第一部分描述了通过待预测值随自变量的变化趋势，而第二部分描述了线性模型不能建模的误差项。 最小二乘方法采用损失代价和最小来获得线性模型的参数。在此，我们通过假设误差项的概率分布，并用最大似然估计的方法寻求模型参数Θ。 在此，我们假设误差项...
分类：
其他好文 时间：
2015-11-18 16:00:10
阅读次数：
138
为什么要用参数估计？在贝叶斯方法中，要事先估计先验概率和条件密度函数，然后再设计分类器。但是多数情况下训练样本数总是太少，而且当用于表示特征维数较高时，对条件密度函数的估计就会计算复杂度较高。因此，如果我们已经事先知道参数的个数，并且先验知识允许我们能够把条件概率密度参数化，就可以使问题难度显著降低...
分类：
其他好文 时间：
2015-10-26 22:16:15
阅读次数：
166
最大似然估计：现在已经拿到了很多个样本（你的数据集中所有因变量），这些样本值已经实现，最大似然估计就是去找到那个（组）参数估计值，使得前面已经实现的样本值发生概率最大。因为你手头上的样本已经实现了，其发生概率最大才符合逻辑。这时是求样本所有观测的联合概率最大化，是个连乘积，只要取对数，就变成了线性加...
分类：
其他好文 时间：
2015-10-17 17:47:03
阅读次数：
177
Basis(基础)：MSE(Mean Square Error 均方误差)，LMS(LeastMean Square 最小均方)，LSM(Least Square Methods 最小二乘法)，MLE(MaximumLikelihood Estimation最大似然估计)，QP(Quadratic ...
分类：
其他好文 时间：
2015-10-11 00:28:07
阅读次数：
243
目录0基于文本分析的参数估计... 11 参数估计方法... 11.1最大似然估计MLE. 21.2最大后验概率... 31.3贝叶斯推理... 42 共轭分布... 72.1 随机生成过程及共轭分布... 72.2 Multinomial分布和 Dirichlet分布... 83 unigram ...
分类：
其他好文 时间：
2015-09-29 13:06:39
阅读次数：
1471
最大后验估计（MAP） 最大后验估计是根据经验数据获得对难以观察的量的点估计。与最大似然估计类似，最大区别是，最大后验估计的融入了要估计量的先验分布在其中。故最大后验估计可以看做规则化的最大似然估计。 ...
分类：
其他好文 时间：
2015-09-12 13:37:52
阅读次数：
147
Basis(基础)：MSE(Mean Square Error 均方误差)，LMS(LeastMean Square 最小均方)，LSM(Least Square Methods 最小二乘法)，MLE(MaximumLikelihood Estimation最大似然估计)，QP(Quadratic ...
分类：
其他好文 时间：
2015-09-08 15:30:02
阅读次数：
249
Staticalmodelregression$y_i=f_{\theta}(x_i)+\epsilon_i,E(\epsilon)=0$1.$\epsilon\sim N(0,\sigma^2) 2.使用最大似然估计 $\rightarrow$ 最小二乘$y\sim N(f_{\theta}(x....
分类：
移动开发 时间：
2015-08-11 15:54:11
阅读次数：
134
最大似然估计是一种奇妙的东西，我觉得发明这种估计的人特别才华。如果是我，觉得很难凭空想到这样做。 极大似然估计和贝叶斯估计分别代表了频率派和贝叶斯派的观点。频率派认为，参数是客观存在的，只是未知而矣。因此，频率派最关心极大似然函数，只要参数求出来了，给定自变量X，Y也就固定了，极大似然估计如下...
分类：
其他好文 时间：
2015-07-31 23:24:27
阅读次数：
369
