马尔科夫随机场（Markov Random Fields, MRFs） MRFs与Gibbs分布等价。 条件随机场（Conditional Random Fields, CRFs）： CRFs的训练方法：迭代梯度法（Iterative Scaling）和L-BFGS 迭代梯度法包括：GIS(Gene ...
分类：
其他好文 时间：
2016-12-08 20:42:39
阅读次数：
252
参数估计：主要有EM算法和Gibbs采样 EM算法： Gibbs采样： ...
分类：
其他好文 时间：
2016-12-08 20:36:18
阅读次数：
176
分为有向概率图模型(Directed Probabilistic Graphical Model)，无向概率图模型(Undirected Probabilistic Graphical Model)，混合概率图模型(Mixed Probabilistic Graphical Model)。 有向概率 ...
分类：
其他好文 时间：
2016-12-08 17:53:40
阅读次数：
315
3-3 证明：I(X ; Y) = H(X) - H(X | Y)。证明如下： 3-9 没有冗余度的信源还能不能压缩？为什么？ 答：没有冗余度的信源，不能进行压缩，如果要进行压缩，那么信源就会失真，不能回到原来的状态。 3-12 等概率分布的信源还能不能压缩？为什么？你能举例说明吗？ 答：等概率分布 ...
分类：
其他好文 时间：
2016-11-22 22:42:31
阅读次数：
207
概率图模型 一、马尔科夫链特性 在已知系统当前状态的条件下，他未来的演变不依赖于过去的演变。第T+1次的结果只受第T次结果的影响，即只与当前状态有关，而与系统的初始状态和此次转移前的所有状态无关。（无后效性） 马尔科夫的一步转移概率可以定义为： Pij(n) = P{Xn+1=j|Xn=i} 一步转 ...
分类：
其他好文 时间：
2016-11-16 09:30:06
阅读次数：
348
在概率模型中，利用已知变量推测未知变量的分布称为“推断”，其核心是如何基于可观测变量推测出位置变量的条件分布。 概率图模型是一类用图来表达变量相关关系的概率模型。它以图为表示工具，最常见的使用一个结点表示一个或一组随机变量，结点之间的边表示变量间的概率相关关系，即“变量关系图”。根据边的性质不同，概... ...
分类：
其他好文 时间：
2016-10-10 11:27:55
阅读次数：
315
决策树的原理，一个图表就很清楚了，首先，还是要牢记，条件熵是一种最优路径，是概率图模型中，两个随机变量之间的最优条件路径。也就是所有路径熵的期望。 H(Y|X) = -sigmaP(X,Y)logP(Y|X) = -sigmaP(X=xi)P(Y|X=xi)logP(Y|X=xi)=-sigmaP( ...
分类：
其他好文 时间：
2016-09-04 17:16:43
阅读次数：
209
1、坐标点类 2、拟合类，带计算部分 3、html部分代码 4、最后实现的效果 ...
分类：
编程语言 时间：
2016-08-30 22:41:51
阅读次数：
243
贝叶斯与频率派思想
频率派思想
长久以来，人们对一件事情发生或不发生，只有固定的0和1，即要么发生，要么不发生，从来不会去考虑某件事情发生的概率有多大，不发生的概率又是多大。而且事情发生或不发生的概率虽然未知，但最起码是一个确定的值。
比如如果问那时的人们一个问题：“有一个袋子，里面装着若干个白球和黑球，请问从袋子中取得白球的概率是多少？”他们会立马告诉你，取出白球的概率就是...
分类：
其他好文 时间：
2016-05-23 13:27:37
阅读次数：
509
