码迷,mamicode.com
首页 > 其他好文 > 详细

中文词频统计

时间:2017-09-29 17:59:40      阅读:115      评论:0      收藏:0      [点我收藏+]

标签:.com   cut   int   read   range   词汇   exp   一个   key   

我对其进行统计的小说是余华的《在细雨中呼喊》,这是一本关于回忆的书。

import jieba

txt=open(xiyu.txt,r,encoding=utf-8).read()  
words=list(jieba.cut(txt))  

exp={,没有,他们,我们,看到,那个,这个,时候,那时,以后,知道,一个,已经,起来,一样,告诉,来到,看着,这样,后来}

keys=set(words)-exp  

dic={}
for w in keys:
    if len(w)>1:    
        dic[w]=words.count(w)   

wc=list(dic.items())   
wc.sort(key=lambda x:x[1],reverse=True)   

for i in range(20):   
    print(wc[i])

技术分享

从词汇出现的频率分析,可以看出本书主要回忆的是作者及作者的家人们过去的事情。

中文词频统计

标签:.com   cut   int   read   range   词汇   exp   一个   key   

原文地址:http://www.cnblogs.com/lyx1997/p/7611818.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!