一直以来感觉好多地方都吧Word Embedding和word2vec混起来一起说，所以导致对这俩的区别不是很清楚。 其实简单说来就是word embedding包含了word2vec，word2vec是word embedding的一种，将词用向量表示。 1.最简单的word embedding是 ...
分类：
其他好文 时间：
2018-10-21 13:05:18
阅读次数：
404
Word translation without parallel data ...
分类：
系统相关 时间：
2018-10-11 12:18:34
阅读次数：
386
先来看一看结果，发现：1.贾宝玉和袭人的关系最近。2.薛宝钗和自己的妈妈关系最近。3.贾宝玉和林黛玉逼格比较统一，薛宝钗属于独树一帜的逼格调性。4.大观园中可以看到邢岫烟经常出没... 还有更多秘密等你自己上手去训练模型并发现... ...
分类：
其他好文 时间：
2018-10-04 11:39:08
阅读次数：
196
一、W2V的两种模型：CBOW和Skip-gram W2V有两种模型，分别为CBOW和skip-gram，CBOW是根据上下文$context(w)$来预测中间词$w$，而skip-gram是根据中间词$w$来预测上下文$context(w)$；他们都有3层结构——输入层，投影层，输出层。（注：无隐 ...
分类：
其他好文 时间：
2018-10-04 00:06:27
阅读次数：
334
一、旧版本的神经网络表示词向量 将每个词表示成$m$维的向量，用$v(w)$表示，整个网络分为4层，分别为输入层，投影层，隐藏层，输出层。 输入层：取一个大小为n的窗口表示输入，用1~(n-1)个词来预测第n个词的生成概率。 投影层：将每个词映射为m维向量，将这些词向量拼接为一个(n-1)m的长向量 ...
分类：
其他好文 时间：
2018-10-03 20:32:57
阅读次数：
212
词向量作为文本的基本结构——词的模型，以其优越的性能，受到自然语言处理领域研究人员的青睐。良好的词向量可以达到语义相近的词在词向量空间里聚集在一起，这对后续的文本分类，文本聚类等等操作提供了便利，本文将详细介绍如何使用word2vec构建中文词向量。 一、中文语料库 本文采用的是搜狗实验室的搜狗新闻 ...
分类：
其他好文 时间：
2018-09-23 16:22:44
阅读次数：
338
Word2Vec 词向量的稠密表达形式（无标签语料库训练） Word2vec中要到两个重要的模型，CBOW连续词袋模型和Skip-gram模型。两个模型都包含三层：输入层，投影层，输出层。 1.Skip-Gram神经网络模型（跳过一些词） skip-gram模型的输入是一个单词wI，它的输出是wI的 ...
分类：
其他好文 时间：
2018-09-06 23:06:01
阅读次数：
315
参考论文： GloVe: Global Vectors forWord Representation 参考博客：https://blog.csdn.net/coderTC/article/details/73864097 理解GloVe模型： glove 模型类似于word2vec模型，都是一种词的 ...
分类：
其他好文 时间：
2018-09-06 23:01:54
阅读次数：
242
word2vec的学习 python的几个扩展工具： 1. numpy 2. scipy 3. gensim word2vec的学习 python的几个扩展工具： 1. numpy 2. scipy 3. gensim 如何对新闻的关键词进行聚类？比如说，给你一个关键词“苍井空”，你怎么把“女优”， ...
分类：
其他好文 时间：
2018-08-21 10:55:00
阅读次数：
117
在word2vec之前所有的词汇表示都是用onehot表示类似man这个单词如下表示他把每个词语孤立起来，该网络如果想在下面一个句子中填入一个单词，就不会根据apple联想到orange所以就希望能够使用向量化的方式来表示单词：这样Apple和Orange就会有相似的地方，在这个特征空间内会距离比较近。而且还有这样的特性：如何学习到这个词嵌入矩阵：我们建立一个神经网络像上图那样用前面几个词预测后面
分类：
其他好文 时间：
2018-08-14 11:20:38
阅读次数：
106
