在模式识别与机器学习中，高斯函数，特别是多维的高斯函数占着非常重要的地位。而其中高斯函数对均值和协方差矩阵的求导尤为重要，因为在用ML、MAP 或者其他方法计算最优值的时候，都会用到高斯函数的求导。虽然对均值求导的过程以及形式在很多博客中都有，但是对协方差矩阵求导的推导甚至是形式都寥寥无几。所以这里... ...
分类：
其他好文 时间：
2016-11-10 02:22:29
阅读次数：
944
理解协方差矩阵的关键就在于牢记它计算的是不同维度之间的协方差，而不是不同样本之间，拿到一个样本矩阵，我们最先要明确的就是一行是一个样本还是一个维度，心中明确这个整个计算过程就会顺流而下，这么一来就不会迷茫了 浅谈协方差矩阵 今天看论文的时候又看到了协方差矩阵这个破东西，以前看模式分类的时候就特困扰， ...
分类：
其他好文 时间：
2016-10-27 12:34:02
阅读次数：
206
协方差一般用来研究诸多实验中各个变量之间的关系。举个例子来说，有n个实验，每个实验得到两个数据，分别为变量x1和变量x2。设n = 7。这七组实验得到的数据分别为： (3,5), (4,5.5),(2,4),(6,7),(8,10),(2,5),(5,7.5) 用MATLAB中的scatter函数作 ...
分类：
其他好文 时间：
2016-10-26 09:40:53
阅读次数：
166
在生成模型中讲到了，可以利用手头的数据，假设数据是满足高斯分布，且是不同的均值，但是同一个协方差矩阵，基于贝叶斯的判别式，可以得到 p(c1|x)>0.5 是第一类 p(c1|x)可以转化为sigmod(z)=w*x +b ...
分类：
其他好文 时间：
2016-10-19 02:34:28
阅读次数：
118
马氏距离(Mahalanobis distance)是由印度统计学家马哈拉诺比斯（P. C. Mahalanobis）提出的，表示数据的协方差距离。它是一种有效的计算两个未知样本集的相似度的方法。与欧氏距离不同的是它考虑到各种特性之间的联系（例如：一条关于身高的信息会带来一条关于体重的信息，因为两者 ...
分类：
其他好文 时间：
2016-10-13 02:44:28
阅读次数：
251
一、统计学的基本概念 统计学里最基本的概念就是样本的均值、方差、标准差。首先，我们给定一个含有n个样本的集合，下面给出这些概念的公式描述： 均值： 标准差： 方差： 均值描述的是样本集合的中间点，它告诉我们的信息是有限的，而标准差给我们描述的是样本集合的各个样本点到均值的距离之平均。 以这两个集合为 ...
分类：
其他好文 时间：
2016-10-13 02:05:00
阅读次数：
221
协方差：两个变量总体误差的期望。简单的说就是度量Y和X之间关系的方向和强度。X：预测变量Y：响应变量Y和X的协方差：［来度量各个维度偏离其均值的程度］备注:［之所以除以n-1而不是除以n，是因为这样能使我们以较小的样本集更好的逼近总体的协方差，即统计上所谓的“无偏估计..
分类：
其他好文 时间：
2016-10-11 22:25:43
阅读次数：
527
直接给出多元高斯分布和单元高斯分布的概率密度函数： μ是一个D维均值向量，Σ是一个D×D的协方差矩阵，我们只考虑正定矩阵（所有特征值都是正数），即|Σ|>0；多元高斯分布和单态量高斯分布尽管在形式上不同，但实际上单态高斯是维数为1的多元高斯分布：当D=1时，Σ是一个1×1的矩阵（即退化为一个数），| ...
分类：
其他好文 时间：
2016-10-07 13:22:48
阅读次数：
196
文章来源于：http://www.cnblogs.com/ywl925/archive/2013/07/24/3210822.html 协方差的意义和计算公式 学过概率统计的孩子都知道，统计里最基本的概念就是样本的均值，方差，或者再加个标准差。首先我们给你一个含有n个样本的集合，依次给出这些概念的公 ...
分类：
其他好文 时间：
2016-09-26 10:59:11
阅读次数：
98
皮尔逊相关系数 维基百科定义:两个变量之间的皮尔逊相关系数定义为两个变量之间的协方差和标准差的商 余弦相似性 皮尔逊相关系数与余弦相似性的关系 皮尔逊相关系数就是减去平均值(中心化)后做余弦相似性 ...
分类：
其他好文 时间：
2016-08-25 20:58:38
阅读次数：
168
