码迷,mamicode.com
首页 > 其他好文 > 详细

完整的英文词频统计

时间:2018-09-27 13:09:06      阅读:221      评论:0      收藏:0      [点我收藏+]

标签:list   key   准备   提取   word   运行   lam   出现   完整   

1.准备utf-8编码的文本文件file

2.通过文件读取字符串 str

3.对文本进行预处理

4.分解提取单词 list

5.单词计数字典 set , dict

6.按词频排序 list.sort(key=)

7.排除语法型词汇,代词、冠词、连词等无语义词

8.输出TOP(20)

代码:

#读取fire文本文件
f = open(fire.txt,r,encoding=utf-8)
fire = f.read()
f.close()
print(fire)
#预处理
print(fire.lower())  #全部字母小写
a = ",.;:‘`"   #特殊符号归集为字符串
for b in a:
    fire.replace(b, )   #利用for循环语句把特殊符号替换成空格
    print(fire)

#分别从空格提取单词
firelist = fire.split()
print(firelist)

#统计每个单词出现的次数
fireset = set(firelist)  #把列表firelist转换成集合,使得单词不会重复出现
#排除语法型词汇,代词、冠词、连词等无语义词
se = {a,the,and,we,you,of}
fireset =fireset-se
firedict = {}  #创建一个空字典,用于存储
# #遍历fireset集合,放入单词为键,统计的次数为值的strdict字典
for word in fireset:
    firedict[word] = firelist.count(word)
print(len(firedict),firedict)
wordlist = list(firedict.items())
#按单词的频数排序
wordlist.sort(key=lambda x:x[1],reverse=True)
print(wordlist)
#输出TOP(20)
for i in range(20):
    print(wordlist[i])

运行结果:

技术分享图片

 

完整的英文词频统计

标签:list   key   准备   提取   word   运行   lam   出现   完整   

原文地址:https://www.cnblogs.com/123-feng/p/9712343.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!