贝叶斯分类是利用概率统计知识进行分类的算法，其分类原理是贝叶斯定理。贝叶斯定理的公式如下：贝叶斯公式表明，我们可以从先验概率P(A)、条件概率P(B|A)和证据P(B)来计算出后验概率。朴素贝叶斯分类器就是假设证据之间各个条件相互独立的基础上，根据计算的后验概率选择各类..
分类：
编程语言 时间：
2017-02-06 11:23:23
阅读次数：
211
2.1概率密度函数 2.1.1定义 设p(x)为随机变量x在区间[a,b]的概率密度函数，p(x)是一个非负函数，且满足 注意概率与概率密度函数的区别。 概率是在概率密度函数下对应区域的面积，如上图右所示，其公式如下 我们用概率密度函数来表示在区间[a,b]中所有可能的状态x的可能性。 条件概率密度 ...
分类：
其他好文 时间：
2016-12-31 18:06:34
阅读次数：
846
（上接第二章） 2.3 分类算法：朴素贝叶斯 2.3.1 贝叶斯公式推导（略） 分类的流程： 第一阶段：训练数据生成训练样本集：TF-IDF 第二阶段：对每个类别计算p（yi）。 第三个阶段：对每个特征属性计算所有划分的条件概率 第四个阶段：对每个类别计算P(x|yi)P（yi）。 第五个阶段：以P ...
分类：
编程语言 时间：
2016-12-29 19:24:43
阅读次数：
242
1、介绍 朴素贝叶斯方法，朴素指特征条件独立，贝叶斯指贝叶斯定理。算法可用来做分类，既可以是判别模型，也可以是生成模型。训练的时候，学习输入输出的联合概率分布，分类的时候，利用贝叶斯定理计算后验概率最大的输出。一句话总结：根据先验概率和条件概率分布，得到联合概率分布。如下所示： 2、模型讲解 条件概 ...
分类：
编程语言 时间：
2016-11-29 17:12:09
阅读次数：
593
和前一篇介绍的最大概率分词比较，2-gram分词也是一种最大概率分词，只不过在计算一个词概率的时候，它不光考虑自己，还会考虑它的前驱。 我们需要两个字典。第一个字典记录词\(w_i\)出现的频次，第二个字典记录词对儿<\(w_j,w_i\)>共同出现的频次。有这两份字典，我们就可以计算出条件概率\( ...
分类：
其他好文 时间：
2016-11-13 19:04:36
阅读次数：
204
1 将决策树看作条件概率分布 决策树可表示为给定特征条件下类的条件概率分布。即，将特征空间划分为互不相交的单元，每个单元对应于决策树中一条从根节点到叶节点的路径。每个单元对应一个条件概率分布。一个好的决策树在叶节点上的条件概率（即一个单元内的条件概率）应该偏向某个类，即保证叶子节点内的数据的熵很小。 ...
分类：
其他好文 时间：
2016-11-10 03:08:44
阅读次数：
220
生成模型与判别模型 zouxy09@qq.com http://blog.csdn.net/zouxy09 一直在看论文的过程中遇到这个问题，折腾了不少时间，然后是下面的一点理解，不知道正确否。若有错误，还望各位前辈不吝指正，以免小弟一错再错。在此谢过。 一、决策函数Y=f(X)或者条件概率分布P( ...
分类：
其他好文 时间：
2016-11-08 09:43:01
阅读次数：
208
POJ3869 Headshot 题意：给出左轮手枪的子弹序列，打了一枪没子弹，要使下一枪也没子弹概率最大应该rotate还是shoot 条件概率，|00|/(|00|+|01|)和|0|/n谁大的问题 |00|+|01|=|0| 注意序列是环形 UVA - 10491 Cows and Cars ...
分类：
其他好文 时间：
2016-10-26 07:08:25
阅读次数：
298
条件概率： B发生前提下A发生的概率 P(A|B)=P(AB)/P(B) AB相互独立，P(AB)=P(A)*P(B) 贝叶斯公式： P(A|B)=P(B|A)*P(A)/P(B) [移项] 全概率公式： 把样本空间S分成若干个不相交部分（不重复不遗漏） P(A)=P(A|B1)*P(B1)+... ...
分类：
其他好文 时间：
2016-10-26 00:41:50
阅读次数：
147
判别式模型与生成式模型的区别 产生式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念，它们的区别在于： 对于输入x，类别标签y：产生式模型估计它们的联合概率分布P(x,y)判别式模型估计条件概率分布P(y|x)产生式模型可以根据贝叶斯公 ...
分类：
其他好文 时间：
2016-10-23 17:28:48
阅读次数：
172
