1.model specificationbinomial logistic regression model是一种分类模型。条件概率分布为： 伯努利分布其中， 2.Maximum Likelihood Estimation由于Hessian矩阵正定，因此NLL是个凸函数，有全局最小值。可以使用梯度...
分类：
其他好文 时间：
2014-07-26 14:11:14
阅读次数：
196
LDA是一个关于语料的生成概率模型，基本思想是文档可以表达为隐含主题的随机混合，每个主题刻画为关于词语的分布。LDA假设在语料D中生成一篇文章w的过程如下：1.根据泊松分布选在文章长度N2. 选择主题分布3. 对于每一个词Wn (a)根据多项式分布选择一个主题 (b)根据多项式条件概率分布选...
分类：
其他好文 时间：
2014-06-18 21:00:30
阅读次数：
275
贝叶斯分类是统计学的一个分类方法，基于贝叶斯定理。首先贝叶斯分类的一个核心假设是一个属性值对给定类的影响独立于其他属性的值(类条件独立)。
先来看下条件概率：
设A、B是两个事件，且P(B)>0,则称 为在事件B发生的条件下,事件A的条件概率。
再来看一下贝叶斯定理：。
其中:
X 是类标识未知的数据样本（或数据元组）
如：35岁收入$4000的顾客
...
分类：
其他好文 时间：
2014-06-01 09:52:51
阅读次数：
235
用数学的方法描述语言规律贾里尼克：一个句子是否合理，等同于判断其可能性的大小，用概率来衡量Markov模型：简化条件概率运算。二元模型 Bigram
model，N元模型为什么合理？上下文相关，短程依赖。不足之处：忽略长程依赖性 Long Distance DependencyN的取值？tradeo...
分类：
其他好文 时间：
2014-05-25 23:12:32
阅读次数：
262
之前忘记强调了一个重要区别：条件概率链式法则和贝叶斯网络链式法则的区别
条件概率链式法则
贝叶斯网络链式法则，如图1
图1
乍一看很容易觉得贝叶斯网络链式法则不就是大家以前学的链式法则么，其实不然，后面详述。
上一讲谈到了概率分布的因式分解
可以看到条件概率的独立性可以直接从概率分布表达式看出来。
我们已经用概率图模型把...
分类：
其他好文 时间：
2014-05-20 15:22:39
阅读次数：
250
一句话，样本空间如果由若两个事件组成，比如A和A'. 那么在这个样本空间中发生的时间B的概率的计算公式是：这里涉及到条件概率的部分，请参考前文：理解条件概率...
分类：
其他好文 时间：
2014-05-14 15:38:47
阅读次数：
316
实验名称：贝叶斯分类器一、实验目的和要求 目的：掌握利用贝叶斯公式进行设计分类器的方法。
要求：分别做出协方差相同和不同两种情况下的判别分类边界。 二、实验环境、内容和方法环境：windows 7，matlab R2010a
内容：根据贝叶斯公式，给出在类条件概率密度为正态分布时具体的判别函数表达式...
分类：
其他好文 时间：
2014-05-10 02:50:11
阅读次数：
518
概率统计 - 07
随机事件及其概率一、随机事件1、随机试验与样本空间2、随机事件与集合3、事件的关系与运算二、事件的概率1、古典概率2、概率的性质3、古典概率的计算4、概率的统计定义三、事件的独立性1、条件概率2、乘法公式3、事件的独立性4、全概率公式
分类：
其他好文 时间：
2014-05-01 10:41:58
阅读次数：
235
