2.1概率密度函数 2.1.1定义 设p(x)为随机变量x在区间[a,b]的概率密度函数，p(x)是一个非负函数，且满足 注意概率与概率密度函数的区别。 概率是在概率密度函数下对应区域的面积，如上图右所示，其公式如下 我们用概率密度函数来表示在区间[a,b]中所有可能的状态x的可能性。 条件概率密度 ...
分类：
其他好文 时间：
2016-12-31 18:06:34
阅读次数：
846
在模式识别与机器学习中，高斯函数，特别是多维的高斯函数占着非常重要的地位。而其中高斯函数对均值和协方差矩阵的求导尤为重要，因为在用ML、MAP 或者其他方法计算最优值的时候，都会用到高斯函数的求导。虽然对均值求导的过程以及形式在很多博客中都有，但是对协方差矩阵求导的推导甚至是形式都寥寥无几。所以这里... ...
分类：
其他好文 时间：
2016-11-10 02:22:29
阅读次数：
944
几个分布函数： PMF（概率质量函数）：离散随机变量在各特定取值上的概率。 PDF（概率密度函数）：对连续随机变量定义，只有对连续随机变量的取值进行积分后才是概率。 CDF（累积分布函数）：能完整描述一个实数随机变量X的概率分布，是PDF的积分。 监督学习：基于已知类别的样本调整分类器的参数，使其达 ...
分类：
编程语言 时间：
2016-11-01 19:33:31
阅读次数：
280
15:18 2016/10/14 1. #Series可看作一个定长的有序字典。 高斯分布对应的概率密度函数对应于numpy中: ...
分类：
编程语言 时间：
2016-10-14 19:58:41
阅读次数：
139
直接给出多元高斯分布和单元高斯分布的概率密度函数： μ是一个D维均值向量，Σ是一个D×D的协方差矩阵，我们只考虑正定矩阵（所有特征值都是正数），即|Σ|>0；多元高斯分布和单态量高斯分布尽管在形式上不同，但实际上单态高斯是维数为1的多元高斯分布：当D=1时，Σ是一个1×1的矩阵（即退化为一个数），| ...
分类：
其他好文 时间：
2016-10-07 13:22:48
阅读次数：
196
随机变量的分布函数： 1. 定义设X是一个随机变量，x是任意实数，函数F(x)=P{X<=x}称为X的分布函数。 2.1 性质对于任意x1，x2（x1<=x2}-P{X<=x1}=F(x2)-F(x1)，因此分布函数描述了 随机变量的统计规律性。 2.2 性质 对于连续型随机变量P{X=a}=0,在 ...
分类：
其他好文 时间：
2016-09-24 17:48:12
阅读次数：
184
基本思想
所谓粒子滤波就是指：通过寻找一组在状态空间中传播的随机样本来近似的表示概率密度函数，用样本均值代替积分运算，进而获得系统状态的最小方差估计的过程，这些样本被形象的称为“粒子”，故而叫粒子滤...
分类：
其他好文 时间：
2016-09-13 10:13:46
阅读次数：
211
一、熵 熵的定义： 其对数log的底为2，若使用底为b的对数，则记为。当对数底为时，熵的单位为奈特。 用表示数学期望，如果，则随机变量的期望值为， 当，关于的分布自指数学期望。而熵为随机变量的期望值，其是的概率密度函数，则可写为， 引理： 证明： 二、联合熵与条件熵： 对于服从联合分布为的一对离散随 ...
分类：
其他好文 时间：
2016-08-31 18:23:09
阅读次数：
299
在很多的机器学习或数据挖掘的问题中，我们所面对的只有数据，但数据中潜在的概率密度函数是不知道的，其概率密度分布需要我们从数据中估计出来。想要确定数据对应的概率密度分布，就需要确定两个东西：**概率密度函数的形式** 和 **概率密度函数的参数**。...
分类：
其他好文 时间：
2016-06-21 10:57:52
阅读次数：
416
概率论第三部分：二（多）维随机变量的性质计算 1.如何计算二维随机变量的联合分布函数？ 思路：首先分类讨论：离散型：对分布律进行求和——连续型：求出概率密度函数，正确定限，积分。其中，正确定限是连续型求解中极其容易犯错的地方 例题：随机变量（x,y）服从d上的均匀分布,其中d为x轴、y轴及直线y=2 ...
分类：
其他好文 时间：
2016-06-15 18:59:34
阅读次数：
141
