码迷,mamicode.com
首页 > 其他好文 > 详细

传统RNN

时间:2018-05-21 14:30:55      阅读:178      评论:0      收藏:0      [点我收藏+]

标签:传统   bsp   自然语言   好用   状态   很多   语音   股票价格   idt   

一、单层网络

单层网络就是输入一个x,经过神经元的变换,输出一个y

技术分享图片

 

二、RNN

有很多种序列输入的数据,如:

技术分享图片

 

自然语言处理问题。x1可以看做是第一个单词,x2可以看做是第二个单词,依次类推。

语音处理。此时,x1、x2、x3……是每帧的声音信号。

时间序列问题。例如每天的股票价格等

序列形的数据就不太好用原始的神经网络处理了。为了建模序列问题,RNN引入了隐状态h(hidden state)的概念,h可以保存过去的x中的特征,而不只是保存当前的x

技术分享图片

技术分享图片

 

 由于h的这种保存性质,输出的y由h得到

技术分享图片

 

传统RNN

标签:传统   bsp   自然语言   好用   状态   很多   语音   股票价格   idt   

原文地址:https://www.cnblogs.com/mimandehuanxue/p/9057267.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!