预备知识
语言模型
[摘自 维基百科]
统计式的语言模型是借由一个概率分布，而指派概率给字词所组成的字串：
语言模型经常使用在许多自然语言处理方面的应用，如语音识别，机器翻译，词性标注，句法分析和资讯检索。由于字词与句子都是任意组合的长度，因此在训练过的语言模型中会出现未曾出现的字串(资料稀疏的问题)，也使得在语料库中估算字串的概率变得很困难，这也是要使用近似的平滑n元语法...
分类：
编程语言 时间：
2015-04-06 15:45:25
阅读次数：
226
卡方分布（chi-square distribution, χ²-distribution）是概率论与统计学中常用的一种概率分布。k个独立的标准正态分布变量的平方和服从自由度为k的卡方分布。卡方分布是一种特殊的伽玛分布，是统计推断中应用最为广泛的概率分布之一，例如假设检验和置信区间的计算。若k个随机变量、……、是相互独立，符合标准正态分布的随机变量（数学期望为0、方差为1），则随机变量Z的平方和被...
分类：
其他好文 时间：
2015-04-01 17:54:00
阅读次数：
496
opencv 2 归一化函数normalize详解
1. 归一化定义与作用
归一化就是要把需要处理的数据经过处理后（通过某种算法）限制在你需要的一定范围内。首先归一化是为了后面数据处理的方便，其次是保证程序运行时收敛加快。归一化的具体作用是归纳统一样本的统计分布性。归一化在0-1之间是统计的概率分布，归一化在某个区间上是统计的坐标分布。归一化有同一、统一和合一的意思。
归一...
分类：
其他好文 时间：
2015-03-28 08:48:56
阅读次数：
165
我们可以计算两个数值点之间的距离，也可以计算两个概率分布之间的距离。常见方法有卡方检验（Chi-Square）和KL散度（KL-Divergence）。本文主要介绍KL散度。 先从信息熵说起，假设一篇文章的标题叫做“黑洞到底吃什么”，包含词语分别是{黑洞，到底，吃什么}，我们现在要根据一个词语...
分类：
其他好文 时间：
2015-03-12 20:41:22
阅读次数：
322
http://blog.csdn.net/v_july_v/article/details/8308762数据挖掘中所需的概率论与数理统计知识（关键词：微积分、概率分布、期望、方差、协方差、数理统计简史、大数定律、中心极限定理、正态分布）导言：本文从微积分相关概念，梳理到概率论与数理统计中的相关知识...
分类：
其他好文 时间：
2015-02-23 20:06:15
阅读次数：
419
比例混合分布(Scale Mixture Distribution)
混合分布是来自其他随机变量的集合构成的随机变量的概率分布：一个随机变量是根据给定的概率从集合随机选取的，然后所选随机变量的值就得到了( first, a random variable is selected by chance from the collection according to given probabil...
分类：
其他好文 时间：
2015-02-10 15:27:56
阅读次数：
246
随机模拟也可以叫做蒙特卡罗模拟(Monte Carlo Simulation)。这个方法的发展始于20世纪40年代，和原子弹制造的曼哈顿计划密切相关。随机模拟中有一个重要的问题就是给定一个概率分布p(x)，我们如何在计算机中生成它的样本。
分类：
其他好文 时间：
2015-02-01 23:02:33
阅读次数：
440
正态分布（Normal distribution）又名高斯分布（Gaussian distribution），是一个在数学、物理及project等领域都很重要的概率分布，在统计学的很多方面有着重大的影响力。若随机变量X服从一个数学期望为μ、标准方差为σ2的高斯分布，记为：X～N(μ,σ2),则其概率...
分类：
其他好文 时间：
2015-01-26 11:33:39
阅读次数：
490
引言
广义逆高斯作为一种含义丰富的概率分布，其参数为特定值时又衍生出几种经典有用的分布，现做一整理介绍。
广义逆高斯分布(Generalized Inverse Gaussian Distribution)
广义逆高斯分布的概率密度函数为：
其中，Kp是a>0且b>0的第二类修正贝塞尔函数(Modified Bessel function of the seco...
分类：
其他好文 时间：
2015-01-23 18:30:16
阅读次数：
221
PDF versionPDF & CDFThe probability density function is $$f(x; \mu, \sigma) = {1\over\sqrt{2\pi}\sigma}e^{-{1\over2}{(x-\mu)^2\over\sigma^2}}$$ The cu...
分类：
其他好文 时间：
2015-01-09 01:34:33
阅读次数：
184
