从概率分布的角度考虑，对于一堆样本数据，每个均有特征Xi对应分类标记yi。 生成模型：学习得到联合概率分布P(x,y)，即特征x和标记y共同出现的概率，然后求条件概率分布。能够学习到数据生成的机制。 判别模型：学习得到条件概率分布P(y|x)，即在特征x出现的情况下标记y出现的概率。 数据要求：生成 ...
分类：
编程语言 时间：
2019-10-01 14:02:33
阅读次数：
122
概率论的一些基础知识 条件概率 $P(B|A) = \frac{1}{3}$ 表示的意思为当A发生的时候，B发生的概率 有公式 $$P(B|A) = \frac{P(AB)}{P(A)}$$ $$P(AB) = P(B|A) P(A)=P(A|B) P(B)$$ $$ P(A|B) = \frac{ ...
分类：
其他好文 时间：
2019-09-14 19:41:53
阅读次数：
112
计算条件件概率P{X>5|Y=5} 方式1:即在前4次中没有出现5点6点在5次出现5点的概率， 首先计算P{X>5,Y=5} ,考虑前5次 中第5次出现5点的概率是 4 * 4 *4 *4 *1/(6*6*6*6*6) P{Y=5}是几何分布概率是 (1-1/6)^4 * 1/6=(5/6)^4 * ...
分类：
其他好文 时间：
2019-09-14 10:26:56
阅读次数：
74
贝叶斯决策 首先来看贝叶斯分类，我们都知道经典的贝叶斯公式： 其中：p(w)：为先验概率，表示每种类别分布的概率；：类条件概率，表示在某种类别前提下，某事发生的概率；而为后验概率，表示某事发生了，并且它属于某一类别的概率，有了这个后验概率，我们就可以对样本进行分类。后验概率越大，说明某事物属于这个类 ...
分类：
其他好文 时间：
2019-09-11 14:06:30
阅读次数：
104
判别式模型（Discriminative Model）是直接对条件概率p(y|x;θ)建模。常见的判别式模型有 线性回归模型、线性判别分析、支持向量机SVM、神经网络等。 生成式模型（Generative Model）则会对x和y的联合分布p(x,y)建模，然后通过贝叶斯公式来求得p(yi|x)，然 ...
分类：
其他好文 时间：
2019-08-28 13:03:45
阅读次数：
70
1、贝叶斯定理： 2、朴素贝叶斯分类器 朴素贝叶斯分类的正式定义如下： 1、设为一个待分类项，而每个a为x的一个特征属性。 2、有类别集合。 3、计算。 4、如果，则。 那么现在的关键就是如何计算第3步中的各个条件概率。我们可以这么做： 1、找到一个已知分类的待分类项集合，这个集合叫做训练样本集。 ...
分类：
其他好文 时间：
2019-08-22 21:52:44
阅读次数：
122
看的头秃，生活艰难 由条件概率可得，P(wi | x） = P(wi, x) / P(x) 套贝叶斯公式得，P(wi | x) = P(x | wi) * P(wi) / P(x) 通过比较P(wi | x)的大小决定分为哪一类中，由于分母相同，所以转化为比较P(x | wi) * P(wi) 的大 ...
分类：
编程语言 时间：
2019-08-10 19:45:54
阅读次数：
100
一、基本概念 1.联合概率 2.边际概率 3.联合概率和边际概率 类似于求X=a的全概率 4.条件概率 5.联合概率、边际概率和条件概率之间的关系 6.贝叶斯公式 在学习这个公式的时候 事先要理解两个概念 具体解释 知乎上有两个很好的解释。 6.1从数学分析上理解 6.2从感性认识上理解 从一个结果 ...
分类：
其他好文 时间：
2019-07-19 12:29:18
阅读次数：
98
1. 简介首先简要介绍一下生成模型（Generative model）与判别模型（Discriminative mode）的概念： 生成模型：对联合概率进行建模，从统计的角度表示数据的分布情况，刻画数据是如何生成的，收敛速度快，例如朴素贝叶斯，GDA，HMM等。 判别模型：对条件概率P(Y|X) 进 ...
分类：
其他好文 时间：
2019-07-12 09:37:51
阅读次数：
543
在此记录下常见的机器学习面试问题。 判别式模型和生成式模型的区别？ 判别方法：由数据直接学习决策函数 Y = f（X），或者由条件分布概率 P（Y|X）作为预测模型，即判别模型。 生成方法：由数据学习联合概率密度分布函数 P（X,Y）,然后求出条件概率分布P(Y|X)作为预测的模型，即生成模型。 由 ...
分类：
其他好文 时间：
2019-07-09 19:24:27
阅读次数：
97
