在前三周的作业中，我构造了概率图模型并调用第三方的求解器对器进行了求解，最终获得了每个随机变量的分布（有向图），最大后验分布（双向图）。本周作业的主要内容就是自行编写概率图模型的求解器。实际上，从根本上来说求解器并不是必要的。其作用只是求取边缘分布或者MAP，在得到联合CPD后，寻找联合CPD的最大 ...
分类：
其他好文 时间：
2016-04-15 21:35:36
阅读次数：
319
前两周的作业主要是关于Factor以及有向图的构造，但是概率图模型中还有一种更强大的武器——双向图（无向图、Markov Network）。与有向图不同，双向图可以描述两个var之间相互作用以及联系。描述的方式依旧是factor.本周的作业非常有实际意义——基于马尔科夫模型的图像文字识别系统(OCR ...
分类：
其他好文 时间：
2016-04-09 18:57:30
阅读次数：
618
经过了一段时间的学习，我终于完成了PGM的所有视频课程，但是编程作业并没有结束。最大的体验是手里有了武器和手段，碰见问题不再束手无策或者需要根据自己的直觉经验来设计解决方法。其实按照目前的科技树而言，三种手段在手基本上就不需要担心任何综合型问题了：1、优化理论及方法; 2、深度学习理论；3、概率图模 ...
分类：
其他好文 时间：
2016-03-31 21:43:44
阅读次数：
125
1、综述 PGM的学习问题实际上是对参数进行推断。对于给定的数据，需要求出系统参数，从而完善系统的CPD。但是某些情况下，PGM的数据集可能是不完整的。数据集不完整可以分为两种情况：1、数据采集受到了影响；2、使用了隐变量。数据采集受到影响可能出于两种情况，第一种是影响与被采集数据是无关的，例如投硬 ...
分类：
其他好文 时间：
2016-03-29 23:47:33
阅读次数：
257
今天Google的机器人AlphaGo获得了围棋对阵李世石的第二场胜利，我也进入到概率图模型学习模块的阶段。Machine Learning 令人着迷也令人畏惧。 ——题记 1、基于PGM的学习 ANN网络的拓扑结构往往是类似的。同一套模型以不同的样本进行训练，可以获得不同的结果。PGM可以人为的向
分类：
其他好文 时间：
2016-03-10 21:51:04
阅读次数：
229
有一种很重要的概率图模型用于SLAM，视觉追踪，识别，传感融合等领域，称为为Template Model. 其特征是每个状态具有多个随机变量，下个状态随机变量的取值受到上个状态的影响。并且随机变量之间的交互属于复制关系。如下图所示： 显然，普通的概率图模型的图是确定的，并不会图的结构不会改变，而这种
分类：
其他好文 时间：
2016-03-07 20:47:38
阅读次数：
142
一、概念引入 很多事情是具有不确定性的。人们往往希望从不确定的东西里尽可能多的得到确定的知识、信息。为了达到这一目的，人们创建了概率理论来描述事物的不确定性。在这一基础上，人们希望能够通过已经知道的知识来推测出未知的事情，无论是现在、过去、还是将来。在这一过程中，模型往往是必须的，什么样的模型才是相
分类：
其他好文 时间：
2016-02-28 22:50:27
阅读次数：
200
概率图的一个重要作用是进行推理，针对某个随机变量，告诉我们它到底有没有可能，有多大可能发生。之前在representation相关的内容中，我们更多的关心如何利用概率图减少联合分布的计算量。inference相关的章节就是要介绍如何从联合概率中获得单个随机变量的概率。1.链状变量消除 对于给定...
分类：
其他好文 时间：
2016-01-17 21:33:36
阅读次数：
854
CPD是conditional probability distribution的缩写，翻译成中文叫做 条件概率分布。在概率图中，条件概率分布是一个非常重要的概念。因为概率图研究的是随机变量之间的练习，练习就是条件，条件就要求条件概率。 对于简单的条件概率而言，我们可以用一个条件概率表来表达。...
分类：
其他好文 时间：
2016-01-12 23:12:33
阅读次数：
515
我们依旧使用“学生网络”作为样例，如图1。图1首先给出因果判断（Causal Reasoning）的直觉解释。能够算出来即学生获得好的推荐信的概率大约是0.5.但假设我们知道了学生的智商比較低。那么拿到好推荐信的概率就下降了：进一步。假设又同一时候知道了考试的难度非常低，那么他拿到好的推荐信得概率又...
分类：
其他好文 时间：
2016-01-11 09:09:48
阅读次数：
230
