码迷,mamicode.com
首页 > 其他好文 > 详细

13-垃圾邮件分类2

时间:2020-05-23 20:23:01      阅读:66      评论:0      收藏:0      [点我收藏+]

标签:index   其他   encoding   来讲   img   imp   get   tno   __name__   

13-垃圾邮件分类2

TF-IDF 概念

  1. 是一种统计方法,用以评估一个词对于一个语料库中一份文件的重要程度。
  2. 词的重要性随着在文件中出现的次数正比增加,同时随着它在语料库其他文件中出现的频率反比下降。就是说一个词在某一个文档中出现次数比较多,其他文档没有出现,说明该词对该份文档分类很重要。然而如果其他文档也出现比较多,说明该词区分性不大,就用IDF来降低该词的权重。

TF-IDF “词频-逆文本频率指数”

TF-IDF(Term Frequency - Inverse Document Frequency)

词频:TF = 词在文档中出现的次数 / 文档中总词数

逆文档频率:IDF = log[ (语料库中的文档总数 / (包含词条w的文档数 + 1) ],分母加1,是为了避免分母为0

TF-IDF = TF(词频) * IDF(逆文档频率)

TF:词频,文本中各个词的出现频率统计,并作为文本特征,这个很好理解。big:tf = 30 / 240

IDF:逆文本频率,其他文本里面都没有出现big,idf = log(101 / 2)。->∞

其他99篇文本里都出现big,log(100 / 101)。->0

概括来讲,IDF反应了一个词在所有文本中出现的频率,如果一个词在很多的文本中出现,那么它的IDF值应该低。而反过来如果一个词在比较少的文本中出现,那么它的IDF值应该高,比如一些专业的名词如”Machine Learning“,这样的词IDF值应该高。一个极端的情况,如果一个词在所有的文本中都出现,那么它的IDF值应该为0。


 

1.读取

2.数据预处理

3.数据划分—训练集和测试集数据划分

from sklearn.model_selection import train_test_split

x_train,x_test, y_train, y_test = train_test_split(data, target, test_size=0.2, random_state=0, stratify=y_train)

4.文本特征提取

sklearn.feature_extraction.text.CountVectorizer

https://scikit-learn.org/stable/modules/generated/sklearn.feature_extraction.text.CountVectorizer.html?highlight=sklearn%20feature_extraction%20text%20tfidfvectorizer

sklearn.feature_extraction.text.TfidfVectorizer

https://scikit-learn.org/stable/modules/generated/sklearn.feature_extraction.text.TfidfVectorizer.html?highlight=sklearn%20feature_extraction%20text%20tfidfvectorizer#sklearn.feature_extraction.text.TfidfVectorizer

from sklearn.feature_extraction.text import TfidfVectorizer

tfidf2 = TfidfVectorizer()

观察邮件与向量的关系

向量还原为邮件

4.模型选择

from sklearn.naive_bayes import GaussianNB

from sklearn.naive_bayes import MultinomialNB

说明为什么选择这个模型?

  模型需要根据数据集中特征的特点来进行选取,垃圾邮件分类重点在于文档中单词出现的频率以及文档的重要性,数据并不符合正态分布的特征,并且垃圾邮件判定过程是一个随机事件,单词在邮件中出现的次数并不是固定的,因此不能选择高斯型分布模型,此处选择多项式分布模型。

5.模型评价:混淆矩阵,分类报告

from sklearn.metrics import confusion_matrix

confusion_matrix = confusion_matrix(y_test, y_predict)

说明混淆矩阵的含义

from sklearn.metrics import classification_report

说明准确率、精确率、召回率、F值分别代表的意义 

混淆矩阵(confusion-matrix):

TP(True Positive):真实为0,预测也为0

FN(False Negative):真实为0,预测为1

FP(False Positive):真实为1,预测为0

TN(True Negative):真实为1,预测也为1

准确率:代表分类器对整个样本判断正确的比重。

技术图片

 精确率:指被分类器判断正例中的正样本的比重。

 技术图片

 召回率:指被预测为正例的占总的正例的比重。

 技术图片

F值:精确率和召回率的调和平均数,最大为1,最小为0。

技术图片

6.比较与总结

如果用CountVectorizer进行文本特征生成,与TfidfVectorizer相比,效果如何?

CountVectorizer:只考虑词汇在文本中出现的频率。

TfidfVectorizer:除了考量某词汇在本文本中出现的频率,还关注包含这个词的其他文本的数量,能够削减高频没有意义的词汇出现带来的影响,挖掘更有意义的特征。

两者结合来看,用CountVectorizer虽在总样本中表现看似优秀,但其实际对样本个体预测的误差要高于使用TfidfVectorizer。因为TfidfVectorizer能够过滤掉一些常见的却无关紧要本的词语,同时保留影响整个文本的重要字词,更适用于垃圾邮件分类。

实现代码:

技术图片
  1 from nltk.corpus import stopwords
  2 from nltk.stem import WordNetLemmatizer
  3 from sklearn.model_selection import train_test_split
  4 from sklearn.feature_extraction.text import TfidfVectorizer
  5 from sklearn.naive_bayes import MultinomialNB
  6 from sklearn.metrics import confusion_matrix, classification_report
  7 import nltk
  8 import csv
  9 import numpy as np
 10 
 11 # 根据词性,生成还原参数pos
 12 def get_wordnet_pos(treebank_tag):
 13      if treebank_tag.startswith(‘J‘):  # 形容词
 14         return nltk.corpus.wordnet.ADJ
 15      elif treebank_tag.startswith(‘V‘):  # 动词
 16         return nltk.corpus.wordnet.VERB
 17      elif treebank_tag.startswith(‘N‘):  # 名词
 18          return nltk.corpus.wordnet.NOUN
 19      elif treebank_tag.startswith(‘R‘):  # 副词
 20         return nltk.corpus.wordnet.ADV
 21      else:
 22        return nltk.corpus.wordnet.NOUN
 23 
 24  # 预处理
 25 def preprocessing(text):
 26      tokens = [word for sent in nltk.sent_tokenize(text) for word in nltk.word_tokenize(sent)]  # 分词
 27      stops = stopwords.words(‘english‘)  # 使用英文的停用词表
 28      tokens = [token for token in tokens if token not in stops]  # 去除停用词
 29      tokens = [token.lower() for token in tokens if len(token) >= 3]  # 大小写,短词
 30      lmtzr = WordNetLemmatizer()
 31      tag = nltk.pos_tag(tokens)  # 词性
 32      tokens = [lmtzr.lemmatize(token, pos=get_wordnet_pos(tag[i][1])) for i, token in enumerate(tokens)]  # 词性还原
 33      preprocessed_text = ‘ ‘.join(tokens)
 34      return preprocessed_text
 35 
 36 # 读取数据集
 37 def read_dataset():
 38      file_path = r‘E:\机器学习\SMSSpamCollection‘
 39      sms = open(file_path, encoding=‘utf-8‘)
 40      sms_data = []
 41      sms_label = []
 42      csv_reader = csv.reader(sms, delimiter=‘\t‘)
 43      for line in csv_reader:
 44         sms_label.append(line[0])  # 提取出标签
 45         sms_data.append(preprocessing(line[1]))  # 提取出特征
 46      sms.close()
 47      return sms_data, sms_label
 48 
 49 # 划分数据集
 50 def split_dataset(data, label):
 51      x_train, x_test, y_train, y_test = train_test_split(data, label, test_size=0.2, random_state=0, stratify=label)
 52      return x_train, x_test, y_train, y_test
 53 
 54 # 把原始文本转化为tf-idf的特征矩阵
 55 def tfidf_dataset(x_train,x_test):
 56      tfidf = TfidfVectorizer()
 57      X_train = tfidf.fit_transform(x_train)  # X_train用fit_transform生成词汇表
 58      X_test = tfidf.transform(x_test)  # X_test要与X_train词汇表相同,因此在X_train进行fit_transform基础上进行transform操作
 59      return X_train, X_test, tfidf
 60 
 61 # 向量还原成邮件
 62 def revert_mail(x_train, X_train, model):
 63     s = X_train.toarray()[0]
 64     print("第一封邮件向量表示为:", s)
 65     # 该函数输入一个矩阵,返回扁平化后矩阵中非零元素的位置(index)
 66     a = np.flatnonzero(X_train.toarray()[0])  # 非零元素的位置(index)
 67     print("非零元素的位置:", a)
 68     print("向量的非零元素的值:", s[a])
 69     b = model.vocabulary_  # 词汇表
 70     key_list = []
 71     for key, value in b.items():
 72         if value in a:
 73             key_list.append(key)  # key非0元素对应的单词
 74     print("向量非零元素对应的单词:", key_list)
 75     print("向量化之前的邮件:", x_train[0])
 76 
 77 # 模型选择(根据数据特点选择多项式分布)
 78 def mnb_model(x_train, x_test, y_train, y_test):
 79     mnb = MultinomialNB()
 80     mnb.fit(x_train, y_train)
 81     ypre_mnb = mnb.predict(x_test)
 82     print("总数:", len(y_test))
 83     print("预测正确数:", (ypre_mnb == y_test).sum())
 84     return ypre_mnb
 85 
 86 # 模型评价:混淆矩阵,分类报告
 87 def class_report(ypre_mnb, y_test):
 88     conf_matrix = confusion_matrix(y_test, ypre_mnb)
 89     print("=====================================================")
 90     print("混淆矩阵:\n", conf_matrix)
 91     c = classification_report(y_test, ypre_mnb)
 92     print("=====================================================")
 93     print("分类报告:\n", c)
 94     print("模型准确率:", (conf_matrix[0][0] + conf_matrix[1][1]) / np.sum(conf_matrix))
 95 
 96 if __name__ == ‘__main__‘:
 97     sms_data, sms_label = read_dataset() # 读取数据集
 98     x_train, x_test, y_train, y_test = split_dataset(sms_data, sms_label) # 划分数据集
 99     X_train, X_test,tfidf = tfidf_dataset(x_train, x_test) # 把原始文本转化为tf-idf的特征矩阵
100     revert_mail(x_train, X_train, tfidf) # 向量还原成邮件
101     y_mnb = mnb_model(X_train, X_test, y_train,y_test) # 模型选择
102     class_report(y_mnb, y_test) # 模型评价
技术图片

运行结果:

技术图片

13-垃圾邮件分类2

标签:index   其他   encoding   来讲   img   imp   get   tno   __name__   

原文地址:https://www.cnblogs.com/a188182/p/12943914.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!