马尔科夫随机场（Markov Random Fields, MRFs） MRFs与Gibbs分布等价。 条件随机场（Conditional Random Fields, CRFs）： CRFs的训练方法：迭代梯度法（Iterative Scaling）和L-BFGS 迭代梯度法包括：GIS(Gene ...
分类：
其他好文 时间：
2016-12-08 20:42:39
阅读次数：
252
参数估计：主要有EM算法和Gibbs采样 EM算法： Gibbs采样： ...
分类：
其他好文 时间：
2016-12-08 20:36:18
阅读次数：
176
分为有向概率图模型(Directed Probabilistic Graphical Model)，无向概率图模型(Undirected Probabilistic Graphical Model)，混合概率图模型(Mixed Probabilistic Graphical Model)。 有向概率 ...
分类：
其他好文 时间：
2016-12-08 17:53:40
阅读次数：
315
概率图模型 一、马尔科夫链特性 在已知系统当前状态的条件下，他未来的演变不依赖于过去的演变。第T+1次的结果只受第T次结果的影响，即只与当前状态有关，而与系统的初始状态和此次转移前的所有状态无关。（无后效性） 马尔科夫的一步转移概率可以定义为： Pij(n) = P{Xn+1=j|Xn=i} 一步转 ...
分类：
其他好文 时间：
2016-11-16 09:30:06
阅读次数：
348
在概率模型中，利用已知变量推测未知变量的分布称为“推断”，其核心是如何基于可观测变量推测出位置变量的条件分布。 概率图模型是一类用图来表达变量相关关系的概率模型。它以图为表示工具，最常见的使用一个结点表示一个或一组随机变量，结点之间的边表示变量间的概率相关关系，即“变量关系图”。根据边的性质不同，概... ...
分类：
其他好文 时间：
2016-10-10 11:27:55
阅读次数：
315
决策树的原理，一个图表就很清楚了，首先，还是要牢记，条件熵是一种最优路径，是概率图模型中，两个随机变量之间的最优条件路径。也就是所有路径熵的期望。 H(Y|X) = -sigmaP(X,Y)logP(Y|X) = -sigmaP(X=xi)P(Y|X=xi)logP(Y|X=xi)=-sigmaP( ...
分类：
其他好文 时间：
2016-09-04 17:16:43
阅读次数：
209
贝叶斯与频率派思想
频率派思想
长久以来，人们对一件事情发生或不发生，只有固定的0和1，即要么发生，要么不发生，从来不会去考虑某件事情发生的概率有多大，不发生的概率又是多大。而且事情发生或不发生的概率虽然未知，但最起码是一个确定的值。
比如如果问那时的人们一个问题：“有一个袋子，里面装着若干个白球和黑球，请问从袋子中取得白球的概率是多少？”他们会立马告诉你，取出白球的概率就是...
分类：
其他好文 时间：
2016-05-23 13:27:37
阅读次数：
509
贝叶斯网络图模型的表示
为了理解有向图对于描述概率分布的作用,首先考虑三个变量 a, b, c 上的一个任意的联合分布 p(a, b, c) 。注意,现阶段我们不需要对这些变量做出任何更多的假设,例如它们是离散的还是连续的。实际上,图模型的一个强大的方面是,一个具体的图可以描述一大类概率分布。通过使用概率的乘积规则(1.11),我们可以将联合概率分布写成下面的形式。
p(a, b,...
分类：
其他好文 时间：
2016-05-22 12:17:07
阅读次数：
280
除了精确推理之外，我们还有非精确推理的手段来对概率图单个变量的分布进行求解。在很多情况下，概率图无法简化成团树，或者简化成团树后单个团中随机变量数目较多，会导致团树标定的效率低下。以图像分割为例，如果每个像素的label都是随机变量，则图中会有30W个随机变量（30W像素的小型相机）。且这30W个随 ...
分类：
其他好文 时间：
2016-04-24 21:36:18
阅读次数：
341
