朴素贝叶斯分类器是基于贝叶斯理论中属性独立假设而创造的一种算法。算法思路简单:只要是哪个类的后验概率大待测样本即为该类别。所谓后验概率就是在给定条件发生的情况下,该样本被判定为某个类别的概率。后验概率P(Y|X)表示在属性集合X(X1,X2,...,Xn)发生的条件下Y类别发..
分类:
编程语言 时间:
2015-09-08 20:22:07
阅读次数:
249
转载请注明出处:http://www.cnblogs.com/marc01in/p/4775440.html引和师弟师妹聊天时经常提及,若有志于从事数据挖掘、机器学习方面的工作,在大学阶段就要把基础知识都带上。机器学习在大数据浪潮中逐渐展示她的魅力,其实《概率论》、《微积分》、《线性代数》、《运筹学...
分类:
编程语言 时间:
2015-09-01 14:00:54
阅读次数:
634
需要知道的是在什么时候可以用朴素贝叶斯算法:需要保证特征条件独立。 主要过程是学习输入和输出的联合概率分布。 预测的时候,就可以根据输入获得对打后验概率对应的输出y。 先验概率:已知输出,求输入。后验概率相反。 简单来说朴素贝叶斯算法,就是在对样本进行学习之后,到了需要做决策的时候,给定...
分类:
编程语言 时间:
2015-08-28 22:54:41
阅读次数:
285
贝叶斯分类是一类分类算法的总称,这类算法均以贝叶斯定理为基础,故统称为贝叶斯分类,而朴素贝叶斯分类可谓是里面最简单、入门的一种。首先关于贝叶斯定理,感觉简单而伟大,前些天一直在看吴军的数学之美(没看过的极力推荐)系列文章,看到自然语言处理从规则模型到统计模型转变的时候,语言的识别准确率上升好几个等级,以至于今天的语言识别到达很强大的地步,同时对于搜索引擎,网页搜索的准确率,也上升好多。这其中的最最重...
分类:
编程语言 时间:
2015-08-05 12:51:53
阅读次数:
250
从本质上来说,这是一个分类问题,类似于通过邮件内容来推测垃圾邮件,通过用户的相关信息来推测用户是否会拖欠贷款,而通过用户的APP安装列表来推测用户的性别也是一个类似的问题。
对于贝叶斯算法来首,我们首先需要一个训练集数据,这个训练集是一个已经打好标签的数据。而要对一堆的数据打标签,人工来做是不太合适的,在这里需要结合人类与计算机各自的优势,来半自动化的识别出比较明显的有性别倾向的APP的...
分类:
移动开发 时间:
2015-07-31 16:24:08
阅读次数:
194
朴素贝叶斯算法主要用来解决分类问题,比如通常的二分类,多分类。1、数学知识:贝叶斯定理:特征条件独立:1、朴素贝叶斯输入空间:输出空间:y={C1,C2,…,CK}。训练集:T={(x1,y1),(x2,y2),…,(xN,yN)}。对于每个实例,其P(X,Y)独立同分布。在进行分类之前,需要先将计...
分类:
编程语言 时间:
2015-07-29 12:09:30
阅读次数:
1169
朴素贝叶斯算法与上篇中写到到生成学习算法的思想是一致的。它不需要像线性回归等算法一样去拟合各种假设的可能,只需要计算各种假设的概率,然后选择概率最高的那种假设分类类别。其中还添入了一个贝叶斯假定:在给定目标值y时属性值x之间相互独立。这样的分类算法被称为朴素贝叶斯分类器(Naive Bayes classifier) 。
1、朴素贝叶斯算法
在朴素贝叶斯算法的模型里,给定的训练集为,...
分类:
编程语言 时间:
2015-07-24 13:04:49
阅读次数:
215
朴素贝叶斯算法(Naive Bayes)阅读目录一、病人分类的例子二、朴素贝叶斯分类器的公式三、账号分类的例子四、性别分类的例子 生活中很多场合需要用到分类,比如新闻分类、病人分类等等。 本文介绍朴素贝叶斯分类器(Naive Bayes classifier),它是一种简单有效的常用分类算法。回.....
分类:
编程语言 时间:
2015-07-21 07:52:40
阅读次数:
137
生活中很多场合需要用到分类,比如新闻分类、病人分类等等。 本文介绍朴素贝叶斯分类器(Naive Bayes classifier),它是一种简单有效的常用分类算法。一、病人分类的例子 让我从一个例子开始讲起,你会看到贝叶斯分类器很好懂,一点都不难。 某个医院早上收了六个门诊病人,如下表。 ...
分类:
编程语言 时间:
2015-07-20 09:15:02
阅读次数:
147
今天看了一下朴素贝叶斯算法。在看到如果样本的某个特征是连续属性的情况下,需要计算出在所有类别下该特征(该特征在不同类别下的)高斯分布,说白了就是求出来在某一类别下该特征的均值和标准差。那么,给某一个特征的值,在带入该特征在各类的概率密度函数(PDF),就可以得到书中所说的“后验概率”。
那么问题来了,对于离散属性的特征,这样是没有问题的。但是PDF某一点的值,大学学的知识说是没有意义的。求出一个...
分类:
其他好文 时间:
2015-07-06 12:29:03
阅读次数:
139