引文:由于之前讲过了朴素贝叶斯的理论Stanford机器学习[第五讲]-生成学习算法第四部分,同时朴素贝叶斯的算法实现也讲过了,见机器学习算法-朴素贝叶斯Python实现。那么这节课打算讲解一下朴素贝叶斯算法的具体计算流程,通过一个具体的实例来讲解。PS:为了专注于某一个细节,本章节只抽取了视频的一部分来讲解,只讲解一个贝叶斯算法的计算流程,关于视频里面的具体内容请参考下面的视频链接。讲解的实例是一...
分类:
编程语言 时间:
2015-06-01 18:56:18
阅读次数:
172
本课内容:
生成学习算法的介绍;
第一个典型的生成学习算法——高斯判别分析;
生成学习算法与之前的判别学习算法的对比;
朴素贝叶斯算法,
Laplace平滑。
1.生成学习算法学习算法分为两种:一种是判别学习算法(Discriminative Learning Algorithm),简称DLA,另一种是生成学习算法(Generative Learning Algorithm),简称GLA。DLADL...
分类:
编程语言 时间:
2015-05-31 16:57:02
阅读次数:
478
引文:前面提到的K最近邻算法和决策树算法,数据实例最终被明确的划分到某个分类中,下面介绍一种不能完全确定数据实例应该划分到哪个类别,或者说只能给数据实例属于给定分类的概率。基于贝叶斯决策理论的分类方法之朴素贝叶斯
优点:在数据较少的情况下仍然有效,可以处理多类别问题
缺点:对于输入数据的准备方式较为敏感
适用数据类型:标称型数据。
朴素贝叶斯的一般过程
收集数据:可以使用任何方式
准备数据:需要数...
分类:
编程语言 时间:
2015-05-28 14:09:46
阅读次数:
263
http://www.cnblogs.com/LBSer/p/4507829.html一、什么是地址反解析 我们都知道手机定位服务,其本质是汇总各种信号得出一个经纬度坐标(x,y)(具体定位原理可以参考:LBS定位技术、基于朴素贝叶斯的定位算法),然而定位服务并未提供该坐标对应的实体地理信息,比.....
分类:
其他好文 时间:
2015-05-16 16:11:04
阅读次数:
186
这是Kaihua Zhang发表在ECCV2012的paper,paper的主题思想是利用满足压缩感知(compressive sensing)的RIP(restricted isometry property)条件的随机测量矩阵(random measurement matrix)对多尺度(multiple scale)的图像特征(features)进行降维,然后通过朴素贝叶斯分类器(naive...
分类:
其他好文 时间:
2015-05-11 10:47:15
阅读次数:
551
引言朴素贝叶斯由贝叶斯定理延伸而来的简单而强大的概率模型,它根据每个特征的概率确定一个对象属于某一类别的概率。该方法基于一个假设,所有特征需要相互独立,即任一特征的值和其他特征的值没有关联关系。
虽然这种条件独立的假设在许多应用领域未必能很好满足,甚至是不成立的。但这种简化的贝叶斯分类器在许多实际应用中还是得到了较好的分类精度。训练模型的过程可以看作是对相关条件概率的计算,它可以用统计对应某一类别...
分类:
其他好文 时间:
2015-05-03 23:43:54
阅读次数:
298
朴素贝叶斯用p1(x, y)表示(x, y)属于类别1的概率,P2(x, y)表示(x, y)属于类别2的概率;如果p(c1|x, y) > P(c2|x, y), 那么类别为1如果p(c1|x, y) p0:54 return 155 else: 56 r...
分类:
其他好文 时间:
2015-05-03 11:59:59
阅读次数:
353
朴素贝叶斯:有以下几个地方需要注意:1. 如果给出的特征向量长度可能不同,这是需要归一化为通长度的向量(这里以文本分类为例),比如说是句子单词的话,则长度为整个词汇量的长度,对应位置是该单词出现的次数。2. 计算公式如下:其中一项条件概率可以通过朴素贝叶斯条件独立展开。要注意一点就是的计算方法,而由...
分类:
编程语言 时间:
2015-05-03 11:52:54
阅读次数:
248
电子邮件垃圾过滤
1、如何从文本文档中构建自己的词列表。使用正则表达式切分句子,并将字符串全部转换为小写。
####################################
# 功能:切分文本
# 输入变量:大字符串 big_string
# 输出变量:字符串列表
####################################
def text_parse(b...
分类:
编程语言 时间:
2015-04-30 21:59:43
阅读次数:
183
1.1朴素贝叶斯公式
贝叶斯定理:
其中A为事件,B为类别,P(B|A)为事件A条件下属于B类别的概率。
朴素贝叶斯分类的正式定义如下:
1、设为一个待分类项,而每个a为x的一个特征属性。
2、有类别集合。
3、计算。
4、如果,则 。
那么现在的关键就是如何计算第3步中的各个条件概率:
...
分类:
其他好文 时间:
2015-04-29 13:41:27
阅读次数:
302