1.1朴素贝叶斯公式
贝叶斯定理：
其中A为事件，B为类别，P(B|A)为事件A条件下属于B类别的概率。
朴素贝叶斯分类的正式定义如下：
1、设为一个待分类项，而每个a为x的一个特征属性。
2、有类别集合。
3、计算。
4、如果，则 。
那么现在的关键就是如何计算第3步中的各个条件概率：
...
分类：
其他好文 时间：
2015-04-29 13:41:27
阅读次数：
302
朴素贝叶斯分类（NBC）是机器学习中最基本的分类方法，是其他众多分类算法分类性能的对比基础，其他的算法在评价性能时都在NBC的基础上进行。同时，对于所有机器学习方法，到处都蕴含着Bayes统计的思想。
朴素贝叶斯基于贝叶斯地理和特征条件独立性假设，首先基于条件独立性假设学习输入XX和输出YY的联合分布P(X,Y)P(X,Y)，同时利用先验概率P(Y)P(Y)，根据贝叶斯定理计算出后验概率P(Y|X...
分类：
其他好文 时间：
2015-04-27 02:06:20
阅读次数：
259
机器学习笔记：朴素贝叶斯方法（Naive Bayes）原理和实现本文主要描述了朴素贝叶斯分类方法，包括模型导出和学习描述。实例部分总结了《machine learning in action》一书中展示的一个该方法用于句子感情色彩分类的程序。
方法概述
学习（参数估计）
实现：朴素贝叶斯下的文本分类
模型概述
朴素贝叶斯方法，是指
朴素：特征条件独立贝叶斯：基于贝叶斯定理
根据贝叶斯定理，对一个分类...
分类：
其他好文 时间：
2015-04-13 01:46:03
阅读次数：
356
贝叶斯决策理论要求计算两个概率p1(x,y)和p2(x,y)1.如果p1(x,y)>p2(x,y),那么类别为12.如果p1(x,y)p(c2|x,y),那么属于类别c11.如果p(c1|x,y)<p(c2|x,y),那么属于类别c2朴素贝叶斯分类器中的另一个假设是，每个特征同等重要。朴素贝叶斯分类...
分类：
其他好文 时间：
2015-04-12 22:42:30
阅读次数：
153
那几年，我学习机器学习的主要内容：
1.机器学习基本导论，机器学习入门了解；
2.线性回归与Logistic。xx业绩预测系统，智能交互统计系统等；
3.岭回归，Lasso，变量选择技术。维度的技巧等技术；
4.降维技术。xx指标设计，具体规范；
5.线性分类器，Knn算法，朴素贝叶斯分类器，文本挖掘。XX智能垃圾消息，垃圾邮件判断，评论智能分析，智能监控统计预警系统呀。
6.决策树，组合提升算...
分类：
其他好文 时间：
2015-03-20 14:27:55
阅读次数：
168
朴素贝叶斯算法是寻找一个极大后验假设（MAP），即候选假设的最大后验概率。
如下：
在朴素贝叶斯分类器中，假设样本特征之间是独立的，则有：
计算每个假设的后验概率，选出最大的概率，对应的类别就是样本的分类结果。
优缺点：
对小规模的数据表现很好，适合多分类任务，适合增量式训练。当时，需要样本的特征之间独立性较高，不能有太多的相关性。对输入数据的表达形式很敏...
分类：
编程语言 时间：
2015-03-02 11:19:44
阅读次数：
297
1.朴素贝叶斯概率模型的数学实质：独立条件概率。 朴素在这里的含义就是各影响因子概率发生独立。2.朴素贝叶斯分类器的数学模型：条件概率模型P（C|F1F2...Fn）=P(C)P(F1F2...Fn|C)/P(F1F2...Fn) （1）这里Fn代表的是独立变量C的若干个特征变量（影响因子）。我们知...
分类：
其他好文 时间：
2015-02-11 18:08:30
阅读次数：
204
朴素贝叶斯分类器是用来做分类的一个简便方法。在贝叶斯公式的基础上，引人条件独立的假设，使得贝叶斯分类器具有简单易行的优点和假设时常与实际不符的缺点。下面简单介绍一下朴素贝叶斯分类器。 首先规定一下数据格式：输入的每一个样本为${{x}^{i}},{{c}^{i}}$，其中：$i$为样本编号，$...
分类：
其他好文 时间：
2015-02-06 21:40:19
阅读次数：
147
朴素贝叶斯分类 1.1、摘要 ?????? 贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。本文作为分类算法的第一篇，将首先介绍分类问题，对分类问题进行一个正式的定义。然...
分类：
其他好文 时间：
2015-01-28 19:56:09
阅读次数：
293
最近一段时间，正在学习机器学习与模式识别，为了验证算法，仍然用了之前做过的项目的一些图片作为数据采集的样本，进行数据采集。前段时间，做了一个花生籽粒的识别程序，是基于SVM+HOG的，这次则是采用朴素贝叶斯来进行识别。采集了20个品种，每个品种50个样本，共1K个数据。
朴素贝叶斯分类器(Naive Bayes Classifier,或 NBC)发源于古典数学理论，有着坚实的数学基础，以及稳...
分类：
其他好文 时间：
2015-01-27 20:25:03
阅读次数：
224
