标签:reverse key set eve 列表 blog logs port class
中文分词
1.下载一中文长篇小说,并转换成UTF-8编码。(要在文件下面将格式转换。)
2.使用jieba库,进行中文词频统计,输出TOP20的词及出现次数。
3.排除一些无意义词、合并同一词。
4.对词频统计结果做简单的解读。
import jieba txt = open(‘小说.txt‘,‘r‘,encoding=‘utf-8‘).read() words=list(jieba.cut(txt)) print(‘列表如下:‘,words) exp={‘,?!‘}#创建新的集合 keys=set(words)-exp#排除无意义词,合并同一词 dic={} for a in keys:#只保留两位以上的词 if len(a)>1: dic[a]=words.count(a) c=list(dic.items())#解读词频 c.sort(key=lambda x:x[1],reverse=True) for i in range(20):#输出前20 print(c[i])
部分截图:
标签:reverse key set eve 列表 blog logs port class
原文地址:http://www.cnblogs.com/jzx-089/p/7610434.html