这个暂时还不太明白，先写一点明白的。EM:最大期望算法，属于基于模型的聚类算法。是对似然函数的进一步应用。我们知道，当我们想要估计某个分布的未知值，可以使用样本结果来进行似然估计，进而求最大似然估计就可以估计出要求的参数。但是有时候还会有未知参数，这样就不能使用极大似然估计。当然这个参数与我们要估计...
分类：
其他好文 时间：
2014-08-05 18:17:09
阅读次数：
180
应该是属于暴力枚举类型的题目
然后这个问题和开关灯的问题的解决办法很类似
然后这两个题目我都没有什么解决办法……
这种矩阵里面计数或者是寻求最少改变数字类型的题目，往往就U懵掉，只是去找规律去寻求自己所谓的正确的解法
会计算，会找规律，会递推，会多加一次然后想到再除以2……总之等等等等方法可能都已经想过，在我的认知中却没有什么思路可以解题。
也不是没有想到过逐一枚举，但是那要怎么枚举呢，...
分类：
其他好文 时间：
2014-08-05 09:35:59
阅读次数：
206
基于用户的推荐和基于物品的推荐两种算法，均依赖于两个事物（用户或物品）之间的相似性度量（等同性定义），相似性度量的方法：PearsonCorrealation皮尔逊相关系数,对数似然值Loglikelihood,斯皮尔曼相关系数SpearmanCorrelation,谷本系数TanimotoCoef...
分类：
其他好文 时间：
2014-08-04 14:15:27
阅读次数：
217
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数，Χ2统计量，剪枝朴素贝叶斯非参数估计，贝叶斯估计线性判别分析Fishre判别，特征向量求解K最邻近相似度度量：欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归（二值分类）参数估计（极大似然估计...
分类：
其他好文 时间：
2014-08-03 23:05:56
阅读次数：
416
本文作为em算法在图模型中的一个应用，推导plsa的em算法。1 em算法em算法是解决一类带有隐变量模型的参数估计问题。1.1 模型的定义输入样本为，对应的隐变量为。待估计的模型参数为，目标为极大化似然函数对于上式的优化，不能通过直接对进行求导，因为一旦求导，就有如下的形式：显然是不好求的。1.2...
分类：
其他好文 时间：
2014-08-02 18:09:53
阅读次数：
527
似然函数：似然函数在形式上就概率密度函数。 似然函数用来估计某个参数。最大似然函数：就是求似然函数的最大值。 最大似然函数用于估计最好的参数。最小二乘法：它通过最小化误差的平方和寻找数据的最佳函数匹配。就是求 y=a1+a2x的系数。通过最小化误差的平方，然后求系数的偏导数，令导数为0，求...
分类：
其他好文 时间：
2014-07-24 22:50:53
阅读次数：
261
简介：在概率统计中有两种主要的方法：参数统计和非参数统计（或者说参数估计和非参数估计）。 其中，参数估计是概率统计的一种方法。主要在样本知道情况下，一般知道或假设样本服从某种概率分布，但不知到具体参数（或者知道具体模型，但不知道模型的参数）。
参数估计就是通过多次试验，观察其结果，利用结果推出参数的大概值。...
分类：
其他好文 时间：
2014-07-23 22:39:07
阅读次数：
894
在 聚类算法K-Means, K-Medoids, GMM, Spectral clustering，Ncut一文中我们给出了GMM算法的基本模型与似然函数，在EM算法原理中对EM算法的实现与收敛性证明进行了具体说明。本文主要针对怎样用EM算法在混合高斯模型下进行聚类进行代码上的分析说明。1. GM...
分类：
其他好文 时间：
2014-07-18 19:25:06
阅读次数：
204
接着上次的一篇文章：http://blog.csdn.net/acdreamers/article/details/27365941
在上次这篇文章中，对于Logistic回归问题，我们已经写出它的最大似然函数，现在来求最大似然估计。所以对似
然函数求偏导数，得到了个方程，即
由于我们只要根据这个方程解出所有的即可，但是这不是一件容易的事，还有Logis...
分类：
其他好文 时间：
2014-07-15 10:27:29
阅读次数：
1015
