码迷,mamicode.com
首页 > 编程语言 > 详细

分词结果准确率、召回率计算-python

时间:2016-06-19 14:15:42      阅读:2867      评论:0      收藏:0      [点我收藏+]

标签:

使用python计算分词结果的准确率,召回率和F值

测试文件output.txt格式如下:

团    B    B
圆    E    E
是    BE    BE
春    B    B
节    E    E
千    B    B
年    E    E
不    B    B
变    E    E
的    BE    BE
...     ...     ....

python代码如下:

1、读入output.txt文件,并建立相应的列名为‘character‘,‘train‘,‘test‘的dataframe

import pandas
line=[]
file=open(rE:\大三下\王东波\CRF 相关\CRF 相关\crf++ tools\output.txt,r,encoding=utf-8)
for i in file.readlines():
    i=i[0:-1]
    if len(i)!=0 and len(i)!=1:
        line.append(i.split(\t))
df=pandas.DataFrame(line,columns=[character,train,test])   

【注:使用df.loc添加新行的速度太慢,因而使用列表向dataframe转化】

2、构建新的dataframe保存分词准确的部分

correct=df[df.train==df.test]

3、计算召回率、准确率和F值

for i in (B,C,E,BE):
    R=sum(correct.test==i)/sum(df.train==i)
    P=sum(correct.test==i)/sum(df.test==i)
    F=R*P*2/(R+P)
    print(i,:\n,R=,R, P=,P, F=,F)

计算结果如下:

B :
 R= 0.915480621852  P= 0.87615255658  F= 0.895384944855
C :
 R= 0.674981658107  P= 0.757201646091  F= 0.713731574864
E :
 R= 0.919001751313  P= 0.879715004191  F= 0.898929336188
BE :
 R= 0.865064695009  P= 0.940703517588  F= 0.901299951854

 

分词结果准确率、召回率计算-python

标签:

原文地址:http://www.cnblogs.com/chenyaling/p/5597885.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!