贝叶斯网络图模型的表示
为了理解有向图对于描述概率分布的作用,首先考虑三个变量 a, b, c 上的一个任意的联合分布 p(a, b, c) 。注意,现阶段我们不需要对这些变量做出任何更多的假设,例如它们是离散的还是连续的。实际上,图模型的一个强大的方面是,一个具体的图可以描述一大类概率分布。通过使用概率的乘积规则(1.11),我们可以将联合概率分布写成下面的形式。
p(a, b,...
分类：
其他好文 时间：
2016-05-22 12:17:07
阅读次数：
280
除了精确推理之外，我们还有非精确推理的手段来对概率图单个变量的分布进行求解。在很多情况下，概率图无法简化成团树，或者简化成团树后单个团中随机变量数目较多，会导致团树标定的效率低下。以图像分割为例，如果每个像素的label都是随机变量，则图中会有30W个随机变量（30W像素的小型相机）。且这30W个随 ...
分类：
其他好文 时间：
2016-04-24 21:36:18
阅读次数：
341
在前三周的作业中，我构造了概率图模型并调用第三方的求解器对器进行了求解，最终获得了每个随机变量的分布（有向图），最大后验分布（双向图）。本周作业的主要内容就是自行编写概率图模型的求解器。实际上，从根本上来说求解器并不是必要的。其作用只是求取边缘分布或者MAP，在得到联合CPD后，寻找联合CPD的最大 ...
分类：
其他好文 时间：
2016-04-15 21:35:36
阅读次数：
319
前两周的作业主要是关于Factor以及有向图的构造，但是概率图模型中还有一种更强大的武器——双向图（无向图、Markov Network）。与有向图不同，双向图可以描述两个var之间相互作用以及联系。描述的方式依旧是factor.本周的作业非常有实际意义——基于马尔科夫模型的图像文字识别系统(OCR ...
分类：
其他好文 时间：
2016-04-09 18:57:30
阅读次数：
618
经过了一段时间的学习，我终于完成了PGM的所有视频课程，但是编程作业并没有结束。最大的体验是手里有了武器和手段，碰见问题不再束手无策或者需要根据自己的直觉经验来设计解决方法。其实按照目前的科技树而言，三种手段在手基本上就不需要担心任何综合型问题了：1、优化理论及方法; 2、深度学习理论；3、概率图模 ...
分类：
其他好文 时间：
2016-03-31 21:43:44
阅读次数：
125
1、综述 PGM的学习问题实际上是对参数进行推断。对于给定的数据，需要求出系统参数，从而完善系统的CPD。但是某些情况下，PGM的数据集可能是不完整的。数据集不完整可以分为两种情况：1、数据采集受到了影响；2、使用了隐变量。数据采集受到影响可能出于两种情况，第一种是影响与被采集数据是无关的，例如投硬 ...
分类：
其他好文 时间：
2016-03-29 23:47:33
阅读次数：
257
今天Google的机器人AlphaGo获得了围棋对阵李世石的第二场胜利，我也进入到概率图模型学习模块的阶段。Machine Learning 令人着迷也令人畏惧。 ——题记 1、基于PGM的学习 ANN网络的拓扑结构往往是类似的。同一套模型以不同的样本进行训练，可以获得不同的结果。PGM可以人为的向
分类：
其他好文 时间：
2016-03-10 21:51:04
阅读次数：
229
有一种很重要的概率图模型用于SLAM，视觉追踪，识别，传感融合等领域，称为为Template Model. 其特征是每个状态具有多个随机变量，下个状态随机变量的取值受到上个状态的影响。并且随机变量之间的交互属于复制关系。如下图所示： 显然，普通的概率图模型的图是确定的，并不会图的结构不会改变，而这种
分类：
其他好文 时间：
2016-03-07 20:47:38
阅读次数：
142
一、概念引入 很多事情是具有不确定性的。人们往往希望从不确定的东西里尽可能多的得到确定的知识、信息。为了达到这一目的，人们创建了概率理论来描述事物的不确定性。在这一基础上，人们希望能够通过已经知道的知识来推测出未知的事情，无论是现在、过去、还是将来。在这一过程中，模型往往是必须的，什么样的模型才是相
分类：
其他好文 时间：
2016-02-28 22:50:27
阅读次数：
200
概率图的一个重要作用是进行推理，针对某个随机变量，告诉我们它到底有没有可能，有多大可能发生。之前在representation相关的内容中，我们更多的关心如何利用概率图减少联合分布的计算量。inference相关的章节就是要介绍如何从联合概率中获得单个随机变量的概率。1.链状变量消除 对于给定...
分类：
其他好文 时间：
2016-01-17 21:33:36
阅读次数：
854
