在使用预训练的embedding层的时候，一定要注意词表的index，在word2vec中， model.wv.index2word 这个是一个list, index就是词的index，这个是固定的，即便是换到linux平台，这个index也是不变的，所以使用这个。 ...
分类：
其他好文 时间：
2019-06-10 14:00:02
阅读次数：
106
● Word2Vec中skip-gram是什么,Negative Sampling怎么做 参考回答： Word2Vec通过学习文本然后用词向量的方式表征词的语义信息,然后使得语义相似的单词在嵌入式空间中的距离很近。而在Word2Vec模型中有Skip-Gram和CBOW两种模式,Skip-Gram是 ...
分类：
编程语言 时间：
2019-06-03 21:30:28
阅读次数：
662
首先Hierarchical Softmax是word2vec的一种改进方式，因为传统的word2vec需要巨大的计算量，所以该方法主要有两个改进点： 1. 对于从输入层到隐藏层的映射，没有采取神经网络的线性变换加激活函数的方法，而是采用简单的对所有输入词向量求和并取平均的方法。 比如输入的是三个4 ...
分类：
其他好文 时间：
2019-06-02 20:37:24
阅读次数：
1171
上一篇博客用词袋模型，包括词频矩阵、Tf-Idf矩阵、LSA和n-gram构造文本特征，做了Kaggle上的电影评论情感分类题。 这篇博客还是关于文本特征工程的，用词嵌入的方法来构造文本特征，也就是用word2vec词向量和glove词向量进行文本表示，训练随机森林分类器。 一、训练word2vec ...
分类：
其他好文 时间：
2019-05-19 18:10:28
阅读次数：
149
在网上看了好多个博客，都没有很好解决，最后google.. 大概问题就是gensim库在安装时没有和其他一些包关联起来（可能是由于用pip安装的gensim导致这个问题），所以在用Word2Vec时没法加速，训练很慢（好像要好几个小时） 解决方法： 记住卸载包后重装一定要用conda来重新安装（好像 ...
ansj_seg,常用的分词工具,基于Java,简单好用 依赖 mvn依赖如下: 代码实例 个人做了简单封装,仅供参考 测试 常用词性 ...
分类：
其他好文 时间：
2019-05-09 15:26:41
阅读次数：
111
博客园的markdown用起来太心塞了，现在重新用其他编辑器把这篇博客整理了一下。 目前用word2vec算法训练词向量的工具主要有两种：gensim 和 tensorflow。gensim中已经封装好了word2vec这个包，用起来很方便，只要把文本处理成规范的输入格式，寥寥几行代码就能训练词向量 ...
分类：
其他好文 时间：
2019-05-09 13:57:30
阅读次数：
218
Word2vec Tutorial RADIM ?EH??EK 2014-02-02 GENSIM, PROGRAMMING 157 COMMENTS I never got round to writing a tutorial on how to use word2vec in gensim. ...
分类：
其他好文 时间：
2019-04-16 22:55:14
阅读次数：
463
word2vec完整的解释可以参考《word2vec Parameter Learning Explained》这篇文章。 cbow模型 cbow模型的全称为Continuous Bag-of-Word Model。该模型的作用是根据给定的词$w_{input}$，预测目标词出现的概率$w_t$，对 ...
分类：
其他好文 时间：
2019-04-16 00:55:19
阅读次数：
298
一、分布式词表示（Distributed Represantation） Word2Vec 是 Google 于 2013 年开源推出的一个用于获取 word vector 的工具包，具体思想可由Tomas Mikolov的两篇论文一探究竟。此文是我对Word2Vec学习的总结。分布式词表示使用低维 ...
分类：
其他好文 时间：
2019-03-25 23:37:28
阅读次数：
248
