极大似然估计 上篇文章介绍了最大熵模型以及采用拉格朗日乘子法求解对偶问题，其模型的解如下， \begin{equation} P_{w}(y|x) = \frac 1 {Z_{w}(x)} \exp {\left( \sum\limits_{i=1}^n w_{i} f_{i}(x,y) \righ ...
分类：
其他好文 时间：
2017-06-14 16:08:00
阅读次数：
180
概率无向图模型 又称马尔可夫随机场(Markov random field)或马尔可夫网络，是一个由无向图表示的联合概率分布。 图是由结点和边组成，无向图中的边没有方向。概率无向图中结点表示随机变量，边表示结点之间的概率依赖关系。 成对马尔可夫性： 设u和v是无向图G中任意两个没有连接边的结点，对应 ...
分类：
其他好文 时间：
2017-06-13 11:29:01
阅读次数：
258
大数据统计 1.项目需求，统计海量数据中某一参数的概率分布 2.实现过程 3.Demo ...
分类：
编程语言 时间：
2017-06-11 16:24:14
阅读次数：
257
给定源域Ds和目标域Dt，D={X,P(X)},并且给定源任务和目标任务 Ts 和 Tt，其中T={Y,P(Y|X)}.4种分法： χs≠χt。源域和目标域的特征空间不同，例如，文档是用两种不同的语言写的 xs=xt， 但P(Xs)≠P(Xt)。源域和目标域的边缘概率分布不同，例如，两个文档有着不同 ...
分类：
其他好文 时间：
2017-06-09 11:16:03
阅读次数：
309
什么是极大似然估计？参数估计就是通过若干次试验，已知某个参数能使这个样本出现的概率最大，我们当然不会再去选择其他小概率的样本，所以干脆就把这个参数作为估计的真实值。说的是已知某个随机样本满足某种概率分布，但是其中具体的参数不清楚，我们通过最大概率反过来求其..
分类：
其他好文 时间：
2017-06-09 09:59:57
阅读次数：
105
贝叶斯定理 贝叶斯定理是通过对观测值概率分布的主观判断（即先验概率）进行修正的定理，在概率论中具有重要地位。 先验概率分布(边缘概率)是指基于主观判断而非样本分布的概率分布，后验概率(条件概率)是根据样本分布和未知参数的先验概率分布求得的条件概率分布。 贝叶斯公式： 变形得： 其中 P(A)是A的先 ...
分类：
编程语言 时间：
2017-06-05 23:50:45
阅读次数：
268
统计语言模型 统计语言模型（Statistical Language Model）即是用来描述词、语句乃至于整个文档这些不同的语法单元的概率分布的模型，能够用于衡量某句话或者词序列是否符合所处语言环境下人们日常的行文说话方式。统计语言模型对于复杂的大规模自然语言处理应用有着非常重要的价值，它能够有助 ...
分类：
编程语言 时间：
2017-06-04 18:32:35
阅读次数：
200
我们不要把鸡蛋都放在一个篮子里面讲得就是最大熵原理，从投资的角度来看这就是风险最小原则。从信息论的角度来说，就是保留了最大的不确定性，也就是让熵达到了最大。最大熵院里指出，对一个随机事件的概率分布进行预测的时候，我们的预测应当满足全部的已知条件，而对于未知的情况不要做任何的主观假设（不做主观假设这点 ...
分类：
其他好文 时间：
2017-06-03 20:53:36
阅读次数：
130
大数据统计 1.项目需求，统计海量数据中某一参数的概率分布 2.实现过程 3.Demo ...
分类：
其他好文 时间：
2017-05-28 00:27:43
阅读次数：
260
目录 ■ 简介 ■ 第一步：将图像理解为一个概率分布的样本 你是怎样补全缺失信息的呢？ 但是怎样着手统计呢？这些都是图像啊。 那么我们怎样补全图像？ ■ 第二步：快速生成假图像 在未知概率分布情况下，学习生成新样本 [ML-Heavy] 生成对抗网络(Generative Adversarial N ...
分类：
其他好文 时间：
2017-05-25 23:34:01
阅读次数：
2102
