Fisher vector本质上是用似然函数的梯度vector来表达一幅图像...
分类：
其他好文 时间：
2014-12-02 11:53:03
阅读次数：
206
先列明材料：高斯混合模型的推导计算（英文版）：http://www.seanborman.com/publications/EM_algorithm.pdf这位翻译写成中文版：http://www.cnblogs.com/jerrylead/archive/2011/04/06/2006936.ht...
分类：
编程语言 时间：
2014-11-29 20:14:51
阅读次数：
182
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数，Χ2统计量，剪枝朴素贝叶斯非参数估计，贝叶斯估计线性判别分析Fishre判别，特征向量求解K最邻近相似度度量：欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归（二值分类）参数估计（极大似然估计...
分类：
其他好文 时间：
2014-11-27 12:34:58
阅读次数：
369
本文内容主要参考Steven M.Kay的《统计信号处理基础——估计与检测理论》，该书中译本分类为“国外电子与通信教材系列”，应该会有一定局限性。本文是我看过该书后的一点点总结。1.从最大似然估计看经典估计理论 最大似然估计（Maximum Likelihood Estimation，MLE）是一种...
分类：
其他好文 时间：
2014-11-23 21:37:52
阅读次数：
193
从最大似然到EM算法浅解zouxy09@qq.comhttp://blog.csdn.net/zouxy09 机器学习十大算法之一：EM算法。能评得上十大之一，让人听起来觉得挺NB的。什么是NB啊，我们一般说某个人很NB，是因为他能解决一些别人解决不了的问题。神为什么是神，因为神能做很多人做不了的事...
分类：
编程语言 时间：
2014-11-23 15:52:09
阅读次数：
311
联合概率的乘法公式：（如果随机变量是独立的，则）由乘法公式可得条件概率公式：，，全概率公式：，其中（，则，则可轻易推导出上式）贝叶斯公式：又名后验概率公式、逆概率公式：后验概率＝似然函数×先验概率/证据因子。解释如下，假设我们根据“手臂是否很长”这个随机变量（取值为“手臂很长”或“手臂不长”）的观测...
分类：
其他好文 时间：
2014-11-21 20:24:29
阅读次数：
215
逻辑回归（Logistic Regression）是机器学习中十分常用的一种模型，属于广义线性模型。在互联网领域得到了广泛的应用，尤其是在广告系统中用来估计CTR。本文主要介绍逻辑回归的模型形式，求解策略和算法。接着介绍逻辑回归的最大似然估计，最后说明为什么逻辑回归要采用sigmoid函数做变换。模...
分类：
其他好文 时间：
2014-11-21 18:26:10
阅读次数：
360
1.引言以前我们讨论的概率模型都是只含观测变量(observable variable), 即这些变量都是可以观测出来的，那么给定数据，可以直接使用极大似然估计的方法或者贝叶斯估计的方法；但是当模型含有隐变量(latent variable)的时候, 就不能简单地使用这些估计方法。如在高斯混合和EM...
分类：
编程语言 时间：
2014-11-20 15:15:09
阅读次数：
512
本文对于最大似然估计的算法进行了一个简要的讨论总结。...
分类：
其他好文 时间：
2014-11-15 18:59:07
阅读次数：
205
本文主要讨论了机器学习中的最大似然估计MLE，贝叶斯估计和最大后验估计MAP，以及它们的关系，是上一篇《机器学习浅析之最优解问题》的深入。
最大似然估计MLE
Frequentist Learning假定存在模型M，其中未知参数为.该参数的估计值为. 给定样本观察数据X，通过选择合适的θ值，可以使产...
分类：
其他好文 时间：
2014-11-10 13:29:51
阅读次数：
276
