码迷,mamicode.com
首页 > 其他好文 > 详细

概率图模型学习笔记(二)贝叶斯网络-语义学与因子分解

时间:2014-05-16 01:25:00      阅读:331      评论:0      收藏:0      [点我收藏+]

标签:贝叶斯   网络   pgm   概率图   概率分布   

概率分布(Distributions)

如图1所示,这是最简单的联合分布案例,姑且称之为学生模型。

bubuko.com,布布扣

图1


其中包含3个变量,分别是:I(学生智力,有0和1两个状态)、D(试卷难度,有0和1两个状态)、G(成绩等级,有1、2、3三个状态)。

表中就是概率的联合分布了,表中随便去掉所有包含某个值的行,就能对分布表进行缩减。

例如可以去掉所有G不为1的行,这样就只剩下了1、4、7、10行,这样他们的概率之和就不为1了,所以可以重新标准化(Renormalization)。如图2所示。

bubuko.com,布布扣

图2


反之也可以把所有含有某个值得行相加,就是边缘化(Marginalization),如图3所示。

bubuko.com,布布扣

图3 


条件概率分布(Conditional ProbabilityDistribution, CPD)

已知学生的智力和试卷难度,学生得分的分布就是条件概率。如图4所示。

bubuko.com,布布扣

图4

 

因子(Factors)

因子是随机变量的函数。

因子是处理概率分布的的基本手段。

因子是高维空间中用以定义概率分布的基本单元。

bubuko.com,布布扣

因子可以相乘(图5)、边缘化(图6)以及缩减(图7)。

bubuko.com,布布扣

图5


bubuko.com,布布扣

图6


bubuko.com,布布扣

图7

 

前面提到的学生模型,其条件概率分布可以画在一张图里面,如图8.

每个节点代表一个因子,其中有些CPD已经蜕化成非条件概率了。

bubuko.com,布布扣

图8 


贝叶斯网络的链式法则(Chain Rule)

如图9所示。概率分布由因子的积来定义。

bubuko.com,布布扣

bubuko.com,布布扣

图9


例如

bubuko.com,布布扣

因此,通过链式法则,贝叶斯网络能够表示联合概率分布:

bubuko.com,布布扣

 

贝叶斯网络的重要性质是概率和为1

bubuko.com,布布扣

 

一个简单的概率图是血型模型

其中G指基因型,B指血型。可以看到血型只由自己的基因型决定,而基因型则由父母两人的基因型决定。如图10.

bubuko.com,布布扣

图10


概率图模型学习笔记(二)贝叶斯网络-语义学与因子分解,布布扣,bubuko.com

概率图模型学习笔记(二)贝叶斯网络-语义学与因子分解

标签:贝叶斯   网络   pgm   概率图   概率分布   

原文地址:http://blog.csdn.net/ycheng_sjtu/article/details/25920283

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!