标签：输出 结合 源码 class 维基百科 等等 不同 一段 过程
近些年来，随着深度学习的崛起，RNN模型也变得非常热门。如果把RNN模型按照时间轴展开，它也类似其它的深度神经网络模型结构。因此，我们可以参照已有的方法训练RNN模型。
现在最流行的一种RNN模型是LSTM（长短期记忆）网络模型。
尽管我们可以借助Tensorflow、Torch、Theano等深度学习库轻松地训练模型，而不再需要推导反向传播的过程，但是逐步推导LSTM模型的梯度并用反向传播算法来实现，对我们深刻地理解模型是大有裨益的。
因此，我们首先按照LSTM的公式实现正向传播计算过程，然后推导网络模型的梯度计算过程，最后用numpy来实现模型的求解。
用代码可以表示为：
H = 128 # LSTM 层神经元的数量
D = ... # 输入数据的维度 == 词表的大小
Z = H + D # 因为需要把LSTM的状态与输入数据拼接
model = dict(
Wf=np.random.randn(Z, H) / np.sqrt(Z / 2.),
Wi=np.random.randn(Z, H) / np.sqrt(Z / 2.),
Wc=np.random.randn(Z, H) / np.sqrt(Z / 2.),
Wo=np.random.randn(Z, H) / np.sqrt(Z / 2.),
Wy=np.random.randn(H, D) / np.sqrt(D / 2.),
bf=np.zeros((1, H)),
bi=np.zeros((1, H)),
bc=np.zeros((1, H)),
bo=np.zeros((1, H)),
by=np.zeros((1, D))
)
在上面，我们定义了LSTM单元的结构。上述公式需要注意的一点是，我们把隐藏层上一步的状态h与当前的输入x相连接，因此LSTM单元的输入是 Z = H + D。另外，我们LSTM单元的输出层有H个神经元，因此每个权重矩阵的维度是 ZxH，偏置向量的维度是 1xH。
W
y
和 b
y
略有不同，这两项是全连接层的参数，它们的下一级是softmax层。最终的输出结果将是词表中每个词语出现的概率分布，维度为 1xD。因此，W
y
的维度必须是 HxD，b
y
的维度必须是 1xD。
def lstm_forward(X, state):
m = model
Wf, Wi, Wc, Wo, Wy = m[‘Wf‘], m[‘Wi‘], m[‘Wc‘], m[‘Wo‘], m[‘Wy‘]
bf, bi, bc, bo, by = m[‘bf‘], m[‘bi‘], m[‘bc‘], m[‘bo‘], m[‘by‘]
h_old, c_old = state
# One-hot 编码
X_one_hot = np.zeros(D)
X_one_hot[X] = 1.
X_one_hot = X_one_hot.reshape(1, -1)
# 上一步状态与当前输入值连接
X = np.column_stack((h_old, X_one_hot))
hf = sigmoid(X @ Wf + bf)
hi = sigmoid(X @ Wi + bi)
ho = sigmoid(X @ Wo + bo)
hc = tanh(X @ Wc + bc)
c = hf * c_old + hi * hc
h = ho * tanh(c)
y = h @ Wy + by
prob = softmax(y)
cache = ... # 存储所有的中间变量结果
return prob, cache
上面的代码表示了单个LSTM单元的前向传播过程，与公式表示的基本一致，多了one-hot编码的步骤。
接下来，我们进入到本篇文章的要点：LSTM反向传播计算。我们假设可以调用函数计算sigmoid和tanh函数的导数。
def lstm_backward(prob, y_train, d_next, cache):
# 取出前向传播步骤中存储的中间状态变量
... = cache
dh_next, dc_next = d_next
# Softmax loss gradient
dy = prob.copy()
dy[1, y_train] -= 1.
# 隐藏层到输出层的导数
dWy = h.T @ dy
dby = dy
# 注意加上dh_next这一项
dh = dy @ Wy.T + dh_next
# h = ho * tanh(c)，计算ho的偏导数
dho = tanh(c) * dh
dho = dsigmoid(ho) * dho
# h = ho * tanh(c), 计算c的偏导数
dc = ho * dh * dtanh(c)
dc = dc + dc_next
# c = hf * c_old + hi * hc，计算hf的偏导数
dhf = c_old * dc
dhf = dsigmoid(hf) * dhf
# c = hf * c_old + hi * hc，计算hi的偏导数
dhi = hc * dc
dhi = dsigmoid(hi) * dhi
# c = hf * c_old + hi * hc，计算hc的偏导数
dhc = hi * dc
dhc = dtanh(hc) * dhc
# 各个门的偏导数
dWf = X.T @ dhf
dbf = dhf
dXf = dhf @ Wf.T
dWi = X.T @ dhi
dbi = dhi
dXi = dhi @ Wi.T
dWo = X.T @ dho
dbo = dho
dXo = dho @ Wo.T
dWc = X.T @ dhc
dbc = dhc
dXc = dhc @ Wc.T
# 由于X参与多个门的计算，因此偏导数需要累加
dX = dXo + dXc + dXi + dXf
# 计算h_old的偏导数
dh_next = dX[:, :H]
# c = hf * c_old + hi * hc，计算dc_next的偏导数
dc_next = hf * dc
grad = dict(Wf=dWf, Wi=dWi, Wc=dWc, Wo=dWo, Wy=dWy, bf=dbf, bi=dbi, bc=dbc, bo=dbo, by=dby)
state = (dh_next, dc_next)
return grad, state在推导的过程中，不太容易理解地方的有如下几点：
既然正向和反向传播计算都已经实现，我们就可以合并两者来训练模型。
训练的过程分为三步：正向计算，计算损失值，反向计算。
python
def train_step(X_train, y_train, state):
probs = []
caches = []
loss = 0.
h, c = state
# 正向计算
for x, y_true in zip(X_train, y_train):
prob, state, cache = lstm_forward(x, state, train=True)
loss += cross_entropy(prob, y_true)
# 保存正向计算的结果
probs.append(prob)
caches.append(cache)
# 损失值采用交叉熵
loss /= X_train.shape[0]
# 反向过程
# 在最后一步， dh_next 和 dc_next 的值等于0。
d_next = (np.zeros_like(h), np.zeros_like(c))
grads = {k: np.zeros_like(v) for k, v in model.items()}
# 按照从后到前的时间顺序
for prob, y_true, cache in reversed(list(zip(probs, y_train, caches))):
grad, d_next = lstm_backward(prob, y_true, d_next, cache)
# 累加各个步骤的梯度值
for k in grads.keys():
grads[k] += grad[k]
return grads, loss, state在一个完整的训练步骤中，我们首先进行前向计算，保存softmax层的概率分布结果以及每一步的中间结果，因为在反向过程中还会用到。
接着，我们在每一步都能计算交叉熵损失值（因为采用softmax方法）。然后，累加每一步的损失值，并求平均值。
最后，基于前向传播的结果进行反向传播运算，需要注意的是数据遍历的方向与之前相反。
另外，在反向传播的第一步，dh_next和dc_next的值等于0.为什么呢？这是因为在正向计算的最后一步，h和c不会参与下一步的计算，因为不存在下一步！因此，在最后一步h和c的偏导数可以直接推导，不需要考虑dh_next和dc_next。
一旦实现了这个函数，我们稍加修改就可以把它嵌入到任何优化算法中，比如RMSProp、Adam等等。
一切搞定！我们可以尝试训练一个LSTM模型
使用Adam优化算法，我从维基百科上复制了一段关于文字。每一个字符表示一个数据。训练目标是预测文章的下一个字符。每隔100轮迭代，我们会检查一下模型的效果。下面是截取到的训练结果：
=========================================================================
Iter-100 loss: 4.2125
=========================================================================
best c ehpnpgteHihcpf,M tt" ao tpo Teoe ep S4 Tt5.8"i neai neyoserpiila o rha aapkhMpl rlp pclf5i
=========================================================================
...
=========================================================================
Iter-52800 loss: 0.1233
=========================================================================
tary shoguns who ruled in the name of the Uprea wal motrko, the copulation of Japan is a sour the wa
=========================================================================模型果然学到了一些知识！
在本文中，我们介绍了LSTM的通用公式，并基于此实现了前向计算过程。然后，我们推导了反向计算的过程，尽管加入了一些小技巧，但是整个过程还是非常直截了当。接着，我们将两者结合构建了完整的训练步骤，并用真实的数据训练和测试模型。
标签：输出 结合 源码 class 维基百科 等等 不同 一段 过程
原文地址：http://www.cnblogs.com/Libo-Master/p/7725017.html
