码迷,mamicode.com
首页 > 其他好文 > 详细

综合应用,jieba,去标点,分词保存,统计,删词,输出

时间:2019-08-31 19:11:08      阅读:340      评论:0      收藏:0      [点我收藏+]

标签:pre   lse   作者   ==   utf-8   nbsp   ever   保存   txt   

import jieba

fp1=rD:/python/a.txt
outph=rD:/python/out.txt
f=open(fp1,r,encoding=utf-8)
txt=f.read().strip()
f.close()

words=jieba.lcut(txt)
f=open(outph,w,encoding=utf-8)
for word in words:
    f.write(word)
    f.write(\n)
f.close()


#第二题去标点,统计词频
bd=[’!"#$%&\‘()*+,-./:;<=>?@[\\]^_`{|}~]+,。!?“”《》:、. 
counts={ }
exlutes={作者,之后}
for i in bd:
    txt=txt.replace(i,‘‘)   #字符串替换去标点符号

words=jieba.lcut(txt)  #分词
for word in words:
    if len(word)==1:
        continue
    else:
        counts[word]=counts.get(word,0)+1   #所有词全统计
for word in exlutes:
    del(counts[word])   #删除{a,b}
items=list(counts.items())

items.sort(key=lambda x:x[1],reverse=True)
for i  in range(15):
    word,count=items[i]
    print("{0:>10}---{1:<5}".format(word,count))

 

综合应用,jieba,去标点,分词保存,统计,删词,输出

标签:pre   lse   作者   ==   utf-8   nbsp   ever   保存   txt   

原文地址:https://www.cnblogs.com/huigebj/p/11440022.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!