标签:range 统计 .so nbsp 编码 通过 使用 item set
1.下载一中文长篇小说,并转换成UTF-8编码。
2.使用jieba库,进行中文词频统计,输出TOP20的词及出现次数。
3.排除一些无意义词、合并同一词。
4.对词频统计结果做简单的解读
import jieba txt = open(‘阿Q正传.txt‘,‘r‘,encoding=‘utf-8‘).read() words=list(jieba.cut(txt)) print(‘列表如下:‘,words) exp={‘,?!‘} #创建新的集合 keys=set(words)-exp #排除无意义词,合并同一词 dic={} for a in keys: #只保留两位以上的词 if len(a)>1: dic[a]=words.count(a) c=list(dic.items()) #解读词频 c.sort(key=lambda x:x[1],reverse=True) for i in range(20): #输出前20 print(c[i])
标签:range 统计 .so nbsp 编码 通过 使用 item set
原文地址:http://www.cnblogs.com/laifai666/p/7610944.html