标签:too cto style error type sci error: doc exception
主要可以参考下面几个链接:
4.sklearn.feature_extraction.text
.CountVectorizer
补充一下:CounterVectorizer()类的函数transfome()的用法
它主要是把新的文本转化为特征矩阵,只不过,这些特征是已经确定过的。而这个特征序列是前面的fit_transfome()输入的语料库确定的特征。见例子:
1 >>>from sklearn.feature_extraction.text import CountVectorizer 2 >>>vec=CountVectrizer() 3 >>>vec.transform([‘Something completely new.‘]).toarray()
错误返回 ,sklearn.exceptions.NotFittedError: CountVectorizer - Vocabulary wasn‘t fitted.表示没有对应的词汇表,这个文本无法转换。其实就是没有建立vocabulary表,没法对文本按照矩阵索引来统计词的个位数
corpus = [ ‘This is the first document.‘, ‘This is the second second document.‘, ‘And the third one.‘, ‘Is this the first document?‘] X = vec.fit_transform(corpus) X.toarray()
vocabulary列表
>>>vec.get_feature_names() [‘and‘, ‘document‘, ‘first‘, ‘is‘, ‘one‘, ‘second‘, ‘the‘, ‘third‘, ‘this‘]
得到的稀疏矩阵是
array([[0, 1, 1, 1, 0, 0, 1, 0, 1], [0, 1, 0, 1, 0, 2, 1, 0, 1], [1, 0, 0, 0, 1, 0, 1, 1, 0], [0, 1, 1, 1, 0, 0, 1, 0, 1]], dtype=int64)
建立vocabulary后可以用transform()来对新文本进行矩阵化了
>>>vec.transform([‘this is‘]).toarray() array([[0, 0, 0, 1, 0, 0, 0, 0, 1]], dtype=int64) >>>vec.transform([‘too bad‘]).toarray() array([[0, 0, 0, 0, 0, 0, 0, 0, 0]], dtype=int64)
简单分析‘this is‘在vocabulary表里面,则对应词统计数量,形成矩阵。而‘too bad‘在vocabulary表中没有这两词,所以矩阵都为0.
标签:too cto style error type sci error: doc exception
原文地址:https://www.cnblogs.com/zz22--/p/9454234.html