引言
广义逆高斯作为一种含义丰富的概率分布,其参数为特定值时又衍生出几种经典有用的分布,现做一整理介绍。
广义逆高斯分布(Generalized Inverse Gaussian Distribution)
广义逆高斯分布的概率密度函数为:
其中,Kp是a>0且b>0的第二类修正贝塞尔函数(Modified Bessel function of the seco...
分类:
其他好文 时间:
2015-01-23 18:30:16
阅读次数:
221
极大似然估计又称最大似然估计,对于一个已知的模型来说,还有些参数是不确定的,但是有了真实数据,那么这些参数可不可计算出呢?或者估计出最有可能的情况?举个例子,例如有一组来自正态分布(也叫高斯分布)的样本数据,每个样本的数据都独立同分布,比如是正态分布,但正态分布的参数μ,σ都不知道,如果用极大似然估...
分类:
其他好文 时间:
2015-01-16 23:40:51
阅读次数:
238
EM算法大致分为两步——E步骤和M步骤。
而在求解运算过程中,需要用到高斯分布,逆矩阵等数学知识。EM算法上篇先梳理一下基础的数学知识,具体EM算法的核心思想下篇再进行介绍。
由于公式,矩阵太多,便手写一份推导,贴在下面。...
分类:
编程语言 时间:
2015-01-09 21:00:58
阅读次数:
272
高斯函数是数学上非常重要的函数,我们熟悉的正态分布的密度函数就是高斯函数,也称高斯分布。而正态分布无疑是概率论与数理统计里最重要的一个分布了。
现在的问题是如果给出一些点集,如何找到一个高斯函数来拟合这些点集呢!
当然,拟合方式还是最小二乘法,拟合函数形式为:
y=a*exp(-((x-b)/c)^2);
一共有三个参数,a、b、c.不过这种指数函数拟合比较难实...
分类:
编程语言 时间:
2015-01-09 17:35:44
阅读次数:
507
今天,我要介绍我们早就知道的一种分布,它叫做高斯分布。高斯分布在概率论中算是比较核心的一种分布了,而在机器学习中,高斯分布也随处可见,比如单高斯模型,高斯混合模型,高斯过程等等,它们都是基于高斯分布的。作为理解连续性随机变量的基础和深入理解在机器学习中的广泛应用,高斯分布是十分有必要学习的。
高斯分布又叫做正态分布,高斯分布概率密度函数的函数形式是由德国著名的天才数学家、统计学家、物理学家...
分类:
其他好文 时间:
2014-12-02 11:50:57
阅读次数:
262
推到了机器学习中常用的概率知识:期望、方差、伯努利分布、泊松分布和高斯分布...
分类:
其他好文 时间:
2014-11-30 11:24:48
阅读次数:
249
本文就高斯混合模型(GMM,Gaussian Mixture Model)参数如何确立这个问题,详细讲解期望最大化(EM,Expectation Maximization)算法的实施过程。单高斯分布模型GSM多维变量X服从高斯分布时,它的概率密度函数PDF为:x是维度为d的列向量,u是模型期望,Σ是...
分类:
其他好文 时间:
2014-11-27 12:21:23
阅读次数:
163
一、两幅图像线性混合线性混合,就是g(x) = a*f1(x) +b*f2(x)。其中g为输出,f1、f2为输入。a+b=1。作用1:线性混合可以用于去噪,假设噪声的产生符合均值为零、标准差的独立分布。多个高斯分布求平均值,即可去除噪声。作用2:用于两张图片的切换。a从大到小变化,b从小到大变化。g...
分类:
其他好文 时间:
2014-11-20 11:36:29
阅读次数:
302
给定训练集,我们希望构建该数据联合分布这里,其中是概率,并且,用表示可能的取值。因此,我们构建的模型就是假设是由生成,而是从中随机选择出来的,那么就服从个依赖于的高斯分布中的一个。这就是高斯混合模型。是潜在随机变量,即它是隐藏的或者观察不到的,这将使得估计问题变得棘手。上面公式太多,作一个总结,总体...
分类:
编程语言 时间:
2014-10-30 20:50:13
阅读次数:
448