1. Notations 循环序列模型的输入和输出都是时间序列。$x^{(i)<t>}$表示第$i$个输入样本的第$t$个元素，$T_x^{(i)}$表示输入的第$i$个样本的元素个数；$y^{(i)<t>}$表示第$i$个样本的输出的第$t$个元素，$T_y^{(i)}$表示第$i$个样本的输出的 ...
分类：
其他好文 时间：
2018-04-06 18:43:53
阅读次数：
256
Finally pass all the Deeplearning.ai courses in March! I highly recommend it! If you already know the basic then you may be interested in course 4 & 5 ...
分类：
Web程序 时间：
2018-03-31 23:15:55
阅读次数：
457
引自官方： Transfer Learning tutorial Ng在Deeplearning.ai中讲过迁移学习适用于任务A、B有相同输入、任务B比任务A有更少的数据、A任务的低级特征有助于任务B。对于迁移学习，经验规则是如果任务B的数据很小，那可能只需训练最后一层的权重。若有足够多的数据则可以 ...
分类：
其他好文 时间：
2018-03-28 22:03:59
阅读次数：
535
http://bindog.github.io/blog/2018/02/10/model-explanation/ http://www.sohu.com/a/216216094_473283 https://jacobgil.github.io/deeplearning/class-activa ...
分类：
其他好文 时间：
2018-03-04 17:16:47
阅读次数：
4275
原文：http://yangguang2009.github.io/2016/12/18/deeplearning/recurrent-neural-networks-for-deep-learning/ 由于平时接触大都是图像处理，因此对于CNN比较熟悉，但是对于RNN（主要用于时序信号处理），却 ...
分类：
其他好文 时间：
2018-03-01 20:01:16
阅读次数：
139
一、为什么选择序列模型 序列模型可以用于很多领域，如语音识别，撰写文章等等。总之很多优点。。。 二、数学符号 为了后面方便说明，先将会用到的数学符号进行介绍。 以下图为例，假如我们需要定位一句话中人名出现的位置。 红色框中的为输入、输出值。可以看到人名输出用1表示，反之用0表示； 绿色框中的$x^{ ...
分类：
其他好文 时间：
2018-02-28 21:35:45
阅读次数：
318
1. 导读 本节内容介绍普通RNN的弊端，从而引入各种变体RNN，主要讲述GRU与LSTM的工作原理。 2. 普通RNN的弊端 在NLP中，句子内部以及句子之间可能存在很长的依赖关系（long term dependecies），最前边的单词对句子后面的单词产生影响。但是普通RNN不擅长捕获这种长期 ...
分类：
其他好文 时间：
2018-02-19 15:16:50
阅读次数：
199
In the previous post I go through basic 1 layer Neural Network with sigmoid activation function， including How to get sigmoid function from a binary c ...
分类：
其他好文 时间：
2018-02-19 10:27:42
阅读次数：
241
Tensorflow实现学习率衰减 觉得有用的话,欢迎一起讨论相互学习~ "Follow Me" 参考文献 "Deeplearning AI Andrew Ng" "Tensorflow1.2 API" 学习率衰减(learning rate decay) 加快学习算法的一个办法就是随时间慢慢减少学 ...
分类：
其他好文 时间：
2018-02-18 12:56:05
阅读次数：
2119
导读 本节内容介绍如何使用RNN训练语言模型，并生成新的文本序列。 语言模型（Language model） 通过语言模型，我们可以计算某个特定句子出现的概率是多少，或者说该句子属于真实句子的概率是多少。正式点讲，一个序列模型模拟了任意特定单词序列的概率。 Language modelling wi ...
分类：
其他好文 时间：
2018-02-17 20:47:19
阅读次数：
364
