最大似然估计是一种奇妙的东西，我觉得发明这种估计的人特别才华。如果是我，觉得很难凭空想到这样做。 极大似然估计和贝叶斯估计分别代表了频率派和贝叶斯派的观点。频率派认为，参数是客观存在的，只是未知而矣。因此，频率派最关心极大似然函数，只要参数求出来了，给定自变量X，Y也就固定了，极大似然估计如下...
分类：
其他好文 时间：
2015-07-31 23:24:27
阅读次数：
369
之前学习了贝叶斯分类器的构造和使用，其中核心的部分是得到事件的先验概率并计算出后验概率 ，而事实上在实际使用中，很多时候无法得到这些完整的信息，因此我们需要使用另外一个重要的工具——参数估计。参数估计是在已知系统模型结构时，用系统的输入和输出数据计算系统模型参数的过程。...
分类：
其他好文 时间：
2015-04-06 11:31:17
阅读次数：
219
宅在家无聊之余决定看着《概率论和数理统计》&《统计学习方法》总结一下朴素贝叶斯和贝叶斯估计。
正好这一块我最近温习了一下，我从一开始条件概率开始写，把我所理解的贝叶斯分类算法完整呈现一下吧。
学的概率论最开始是在高中，当时是条件概率，给出条件概率的定义：事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为P（A|B），读作“在B条件下A的概率”。
其次...
分类：
其他好文 时间：
2015-02-12 09:25:16
阅读次数：
229
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数，Χ2统计量，剪枝朴素贝叶斯非参数估计，贝叶斯估计线性判别分析Fishre判别，特征向量求解K最邻近相似度度量：欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归（二值分类）参数估计（极大似然估计...
分类：
其他好文 时间：
2014-11-27 12:34:58
阅读次数：
369
1.引言以前我们讨论的概率模型都是只含观测变量(observable variable), 即这些变量都是可以观测出来的，那么给定数据，可以直接使用极大似然估计的方法或者贝叶斯估计的方法；但是当模型含有隐变量(latent variable)的时候, 就不能简单地使用这些估计方法。如在高斯混合和EM...
分类：
编程语言 时间：
2014-11-20 15:15:09
阅读次数：
512
本文主要讨论了机器学习中的最大似然估计MLE，贝叶斯估计和最大后验估计MAP，以及它们的关系，是上一篇《机器学习浅析之最优解问题》的深入。
最大似然估计MLE
Frequentist Learning假定存在模型M，其中未知参数为.该参数的估计值为. 给定样本观察数据X，通过选择合适的θ值，可以使产...
分类：
其他好文 时间：
2014-11-10 13:29:51
阅读次数：
276
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数，Χ2统计量，剪枝朴素贝叶斯非参数估计，贝叶斯估计线性判别分析Fishre判别，特征向量求解K最邻近相似度度量：欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归（二值分类）参数估计（极大似然估计...
分类：
其他好文 时间：
2014-08-03 23:05:56
阅读次数：
416
简介：在概率统计中有两种主要的方法：参数统计和非参数统计（或者说参数估计和非参数估计）。 其中，参数估计是概率统计的一种方法。主要在样本知道情况下，一般知道或假设样本服从某种概率分布，但不知到具体参数（或者知道具体模型，但不知道模型的参数）。
参数估计就是通过多次试验，观察其结果，利用结果推出参数的大概值。...
分类：
其他好文 时间：
2014-07-23 22:39:07
阅读次数：
894
多传感器信息融合的意义：可有效的解决单传感器的模糊点更精确的观察和解释环境。多传感器信息融合的方法（算法）：
经典推理法、加权平均法、卡尔曼滤波、贝叶斯估计、D-S证据理论、统计决策理论、聚类分析、参数模板、熵法、品质因数法、估计理论法、专家系统法、产生式规则、人工神经网络、模糊推理、粗糙集理论.....
分类：
移动开发 时间：
2014-05-10 01:19:12
阅读次数：
365
