这篇课堂笔记将介绍不同类型的RNN（递归神经网络），并介绍它在NLP领域的应用和优势。
在这篇课笔记中，我们会一起学习一种新的模型，这种模型绝对是以前介绍的那种递归神经网络的加强版！递归神经网络(RNNs)十分适用于有层次的、本身就有递归结构的数据集。...
分类：
编程语言 时间：
2016-07-31 00:24:45
阅读次数：
301
长短期记忆网络LSTM(Long Short Term Memory)本身不是一个完整的模型，主要是对RNN隐含层的改进。因此，RNN网络即使用LSTM单元的RNN网络。LSTM非常适合用于处理与时间序列高度相关的问题，例如机器翻译、对话生成、编码解码、图文转换等。 说明：word2vec(CBOW ...
分类：
其他好文 时间：
2016-07-20 19:16:27
阅读次数：
245
说明：本文为斯坦福大学CS224d课程的中文版内容笔记，已得到斯坦福大学课程@Richard Socher教授的授权翻译与发表
1.语言模型
语言模型用于对特定序列的一系列词汇的出现概率进行计算。一个长度为m的词汇序列{w1,…,wm}的联合概率被表示为P(w1,…,wm)。由于在得到具体的词汇之前我们会先知道词汇的数量，词汇wi的属性变化会根据其在输入文档中的位置而定，而联合概率P(w1,…,wm)的计...
分类：
编程语言 时间：
2016-07-19 10:47:20
阅读次数：
311
本文为斯坦福大学CS224d课程的中文版内容笔记，已得到斯坦福大学课程@Richard Socher教授的授权翻译与发表...
分类：
编程语言 时间：
2016-07-19 10:07:15
阅读次数：
456
LSTM Networks for Sentiment Analysis Summary This tutorial aims to provide an example of how a Recurrent Neural Network (RNN) using the Long Short Ter ...
分类：
其他好文 时间：
2016-07-15 00:13:39
阅读次数：
478
即使不是 NLPer，现实中依然会面对很多序列问题。
全文内容来自 Ian Goodfellow, Yoshua Bengio 和 Aaron Courville 3位大老爷的作品“Deep Learning”的其中一章“Sequence Modeling: Recurrent and Recursive Nets”。...
分类：
其他好文 时间：
2016-07-13 16:07:25
阅读次数：
2293
Z Stupid 田渊栋、 周若凡 等 439 人赞同 Pointer Networks (https://arxiv.org/pdf/1506.03134.pdf) NIPS15的论文，通过改进RNN用来解决一些传统cs问题，比如凸包，三角剖分，甚至是TSP，最神奇的地方在于这玩意效果竟然还不错， ...
分类：
其他好文 时间：
2016-07-12 23:15:41
阅读次数：
320
训练webface 李子青提出的大网络，总是出现过拟合，效果差。 尝试使用batchnorm。
参考博客： http://blog.csdn.net/malefactor/article/details/51549771 cnn 和rnn 中如何引入batchnorm
http://blog.csdn.net/happynear/article/details/44238541 Google...
分类：
其他好文 时间：
2016-06-29 13:27:27
阅读次数：
2019
整理的链接：https://www.zhihu.com/question/41631631来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 调了快1年的rnn, 深刻的感受到,深度学习是一门实验科学,下面是一些炼丹心得. 后面会不断补充. 有问题的地方,也请大家指正. ...
分类：
其他好文 时间：
2016-06-27 13:38:24
阅读次数：
1258
之前已经介绍过关于 Recurrent Neural Nnetwork 与 Long Short-Trem Memory 的网络结构与参数求解算法（ 递归神经网络（Recurrent Neural Networks，RNN） ,LSTM网络（Long Short-Term Memory ）），本文将 ...
分类：
其他好文 时间：
2016-06-21 17:17:14
阅读次数：
949
