前言 本文介绍机器学习分类算法中的朴素贝叶斯分类算法并给出伪代码，Python代码实现。词向量 朴素贝叶斯分类算法常常用于文档的分类，而且实践证明效果是挺不错的。 在说明原理之前，先介绍一个叫词向量的概念。 --- 它一般是一个布尔类型的集合，该集合中每个元素都表示其对应的单词是否在文档中出现...
分类：
编程语言 时间：
2014-12-25 23:21:32
阅读次数：
383
一、数学基础1、先验概率，又称边缘概率：2、后验概率，又称条件概率条件概率（非独立事件才会遇到条件概率）P(A,B)=P(A)*P(B|A)例：五个乒乓球，3新2旧，无放回抽取两次，A：第一次取到新球 B：第二次取到新球，求第一次取到新球的条件下第二次取到新球的概率P(B|A)=P(A,B)/P(A...
分类：
其他好文 时间：
2014-12-19 18:47:07
阅读次数：
232
朴素贝叶斯分类是贝叶斯分类器的一种，贝叶斯分类算法是统计学的一种分类方法，利用概率统计知识进行分类，其分类原理就是利用贝叶斯公式根据某对象的先验概率计算出其后验概率（即该对象属于某一类的概率），然后选择具有最大后验概率的类作为该对象所属的类。总的来说：当样本特征个数较多或者特征之间相关性较大时，朴素贝叶斯分类效率比不上决策树模型；当各特征相关性较小时，朴素贝叶斯分类性能最为良好。另外朴素贝叶斯的计算过程类条件概率等计算彼此是独立的，因此特别适于分布式计算。本文详述了朴素贝叶斯分类的统计学原理，并在文本分类中...
分类：
编程语言 时间：
2014-12-12 20:56:48
阅读次数：
1004
参考：cs229讲义机器学习（一）：生成学习算法Generative Learning algorithms：http://www.cnblogs.com/zjgtan/archive/2013/06/08/3127490.html首先，简单比较一下前几节课讲的判别学习算法（Discriminati...
分类：
编程语言 时间：
2014-12-05 07:03:54
阅读次数：
354
生活中很多场合需要用到分类，比如新闻分类、病人分类等等。 本文介绍朴素贝叶斯分类器（Naive Bayes classifier），它是一种简单有效的常用分类算法。 一、病人分类的例子 让我从一个例子开始讲起，你会看到贝叶...
分类：
其他好文 时间：
2014-12-04 01:12:30
阅读次数：
333
原文:Microsoft Naive Bayes 算法——三国人物身份划分 Microsoft朴素贝叶斯是SSAS中最简单的算法，通常用作理解数据基本分组的起点。这类处理的一般特征就是分类。这个算法之所以称为“朴素”，是因为所有属性的重要性是一样的，没有谁比谁更高。贝叶斯之名则源于Thomas Ba...
分类：
编程语言 时间：
2014-12-02 10:11:16
阅读次数：
176
Microsoft朴素贝叶斯是SSAS中最简单的算法，通常用作理解数据基本分组的起点。这类处理的一般特征就是分类。这个算法之所以称为“朴素”，是因为所有属性的重要性是一样的，没有谁比谁更高。贝叶斯之名则源于Thomas Bayes，他想出了一种运用算术（可能性）原则来理解数据的方法。对此算法的另.....
分类：
编程语言 时间：
2014-11-29 20:15:15
阅读次数：
324
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数，Χ2统计量，剪枝朴素贝叶斯非参数估计，贝叶斯估计线性判别分析Fishre判别，特征向量求解K最邻近相似度度量：欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归（二值分类）参数估计（极大似然估计...
分类：
其他好文 时间：
2014-11-27 12:34:58
阅读次数：
369
1.贝叶斯公式每次提到贝叶斯这三个字，心中的仰慕之情油然而生。感觉贝叶斯推断是众多机器学习算法的基础（尤其是统计学习）。一个很简单的公式应用到非常复杂和广泛的领域，真是一件了不起的事情。再讲贝叶斯公式之前，首先回顾一下概率的知识。若 A、B 是两个事件，我们用P(A)表示事件A发生的概率，P(B)表...
分类：
其他好文 时间：
2014-11-26 01:04:44
阅读次数：
321
