word2vec
负采样
目标函数
反向梯度
层次softmax
NPLM的目标函数和反向梯度
目标函数
反向梯度
GNN(图神经网络)
deepwalk
node2vec
附录 ...
分类:
其他好文 时间:
2019-09-28 10:32:30
阅读次数:
132
本文简述了以下内容: 神经概率语言模型NPLM word2vec:CBOW / Skip-gram,直接以得到词表示为目标的模型(加速策略将在下篇文介绍) 神经概率语言模型NPLM 近年来,基于神经网络来得到词表示的模型备受青睐。这类模型所得到的词的向量表示是分布式表示distributed rep ...
分类:
其他好文 时间:
2016-08-24 17:22:36
阅读次数:
272
ACL2014的best paper Fast and Robust Neural Network Joint Models for Statistical Machine Translation在SMT中使用深度学习知识,提出了一种neural network joint model(其实就是融合源端语言知识去做语言模型),论文实验给出的结果宣称大幅度提高了以往基于n-gram语言模型翻译系统的...
分类:
其他好文 时间:
2015-07-04 14:06:25
阅读次数:
306