标签：style blog http color io os ar for sp
贝叶斯公式描述的是一组条件概率之间相互转化的关系。
在机器学习中，贝叶斯公式可以应用在分类问题上。这篇文章是基于自己的学习所整理，并利用一个垃圾邮件分类的例子来加深对于理论的理解。
这里我们来解释一下朴素这个词的含义：
1）各个特征是相互独立的，各个特征出现与其出现的顺序无关；
2）各个特征地位同等重要；
以上都是比较强的假设
下面是朴素贝叶斯分类的流程：
这样我们就分别求出了这些特征各个类别下的条件概率，很直观的，对于各个特征的联合概率分布就是各个条件概率进行相乘，如上式。但是这样会出现以下几个问题：
1）若某一个词未出现在字典中，那么其条件概率就会为0，那么整体的联合概率也就为0，为了避免这种情况的
出现，这里会引入 Laplace smoothing的操作:假定输入样本中各个特征出现的次数至少为1，这样在求一个特征出
现的概率时对于分母，要加上其总的类别m；可以表述为如下公式，
p(w|h)=(实际出现的次数+1)/(总的特征出现次数+m)
2)另一个问题是，若一个样本中特征个数很多，那 么可能会出现这样的情况，单个特征出现的概率很少，那么联合
概率相乘时，最终的值会非常小，在计算机中可能出现下溢；为了避免这种情况出现，可以对联合概率取对数
log(a*b)=log(a)+log(b)
上式可以转换为：
以上都是训练过程中会经常遇到的问题。经过训练后，就可以得到很多组这样的公式，那么对于一封新的邮件过来了
怎么去判定其是否为垃圾邮件呢？
这里就会涉及到怎么样将 单词这样的特征转化成计算机可以方便处理的数字，很直观的就是建立一个已知垃圾邮件中经常出现的单词的字典（向量）。对于新邮件，就可以将其转换到一个与字典同样大小的向量，出现的单词在相应的索引处标为‘1’，否则标 ‘0’。下一步就是将得到的这个向量分别与训练得到的对数概率进行相乘了。
下面是python代码，来自机器学习实战这本书。
from numpy import *
def loadDataSet():
postingList=[['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'],
['maybe', 'not', 'take', 'him', 'to', 'dog', 'park', 'stupid'],
['my', 'dalmation', 'is', 'so', 'cute', 'I', 'love', 'him'],
['stop', 'posting', 'stupid', 'worthless', 'garbage'],
['mr', 'licks', 'ate', 'my', 'steak', 'how', 'to', 'stop', 'him'],
['quit', 'buying', 'worthless', 'dog', 'food', 'stupid']]
classVec = [0,1,0,1,0,1] #1 is abusive, 0 not
return postingList,classVec
def createVocabList(dataSet):
vocabSet = set([]) #create empty set
for document in dataSet:
vocabSet = vocabSet | set(document) #union of the two sets
return list(vocabSet)
def setOfWords2Vec(vocabList, inputSet):
returnVec = [0]*len(vocabList)
for word in inputSet:
if word in vocabList:
returnVec[vocabList.index(word)] = 1
else: print "the word: %s is not in my Vocabulary!" % word
return returnVec
def trainNB0(trainMatrix,trainCategory):
numTrainDocs = len(trainMatrix)
numWords = len(trainMatrix[0])
pAbusive = sum(trainCategory)/float(numTrainDocs)
p0Num = ones(numWords); p1Num = ones(numWords) #change to ones()
p0Denom = 2.0; p1Denom = 2.0 #change to 2.0
for i in range(numTrainDocs):
if trainCategory[i] == 1:
p1Num += trainMatrix[i]
p1Denom += sum(trainMatrix[i])
else:
p0Num += trainMatrix[i]
p0Denom += sum(trainMatrix[i])
p1Vect = log(p1Num/p1Denom) #change to log()
p0Vect = log(p0Num/p0Denom) #change to log()
return p0Vect,p1Vect,pAbusive
def classifyNB(vec2Classify, p0Vec, p1Vec, pClass1):
p1 = sum(vec2Classify * p1Vec) + log(pClass1) #element-wise mult
p0 = sum(vec2Classify * p0Vec) + log(1.0 - pClass1)
if p1 > p0:
return 1
else:
return 0更多内容可以参考以下博客：
标签：style blog http color io os ar for sp
原文地址：http://blog.csdn.net/jxlijunhao/article/details/39936257
