1、LSTM的形象比喻

标签：

1. 首先，假设一个人，他得记忆力不是很好，有可能会忘掉之前的事情。
2. 为了保持对过去的记忆力的（其实是为了保留过去对于妹子的美好回忆），他应该怎么做?
3. ok，他会记日记（其实不是最好的解决办法），通过记日记保持对过去的美好回忆。
4. 这样，每天他的生活中发生着各种各样的事情，然后他又像保持对于过去与妹子相关的美好回忆，所以他每天也会翻一下日记来看一下，使得自己不会把过去的事情给忘记掉。这样，他的大脑中存放着两中记忆，今天发生的事情的记忆和通过看日记得到的对过去的事情的记忆。
5. ok，现在问题来了，他的大脑的记忆力是有限的（前面提到过，这个人的记忆力不是很好，假设他脑袋之前被驴给踢了，所以记忆力不是很好，呃，这样也能交到妹子，单身狗也太悲剧了），如果今天的事情发生的太多，把大脑给充斥满了，那么大脑就放不下对于过去的记忆了，为了方便表示，我们引入一个公式，M_brain=w_today*M_today+w_before*M_before，【其实这里写的也不太对，没有表现出递归的现象，因为M_brain也会作为后面几天的输入】所其实M_before就是通过日记得到的记忆，M_today就是今天发生的事情得到的记忆，w表示的是两者的权重。
   
6. ok，如果这个人今天又交到了一个妹子，那么他最想做的事情是什么？应该就是把过去的记忆全部不要了吧，都有新的妹子了，还要过去的妹子的回忆干嘛呢，所以他会把日记撕掉，或者丢掉，这样，w_before的值会为0。未完待续。。。。。

1、LSTM的形象比喻

标签：

原文地址：http://www.cnblogs.com/yu-blog/p/4550343.html