1、卷积神经网络(CNN) 和 递归神经网络(RNN) 2、损失函数在反向传播中的作用 - 简书.html(https://www.jianshu.com/p/f987103ec046) 可以看出损失函数基本都是由真实值和预测值两部分组成,正确的损失函数,可以起到让预测值一直逼近真实值的效果,当预测 ...
分类:
其他好文 时间:
2020-01-26 14:36:41
阅读次数:
62
过年这几天只能待家里了,最近几个月,上海交通大学的研究人员提出了切片递归神经网络(SRNN)的结构,该结构在不改变循环单元的情况下比RNN结构快135倍。这种操作,就像踩在一个热轮子上,是怎么发生的? ...
分类:
其他好文 时间:
2020-01-26 00:50:56
阅读次数:
125
一、前言 虽然一直算IT男,但是基本没有接触过最前沿的IT知识,一直在做生产方面的IT,突发奇想,开始学习算法,学习算法有半年多了,从最初的Python,到线性回归、逻辑回归、SVM,聚类,NLP,CNN,RNN,GAN等神经网络,感觉知识的海洋真是浩瀚如海,今天打算开始分享一下我的一些学习情况,第 ...
分类:
其他好文 时间:
2020-01-23 22:49:24
阅读次数:
108
一、介绍 内容 使用 RNN 进行序列预测 今天我们就从一个基本的使用 RNN 生成简单序列的例子中,来窥探神经网络生成符号序列的秘密。 我们首先让神经网络模型学习形如 0^n 1^n 形式的上下文无关语法。然后再让模型尝试去生成这样的字符串。在流程中将演示 RNN 及 LSTM 相关函数的使用方法 ...
分类:
其他好文 时间:
2020-01-23 19:55:49
阅读次数:
98
一.RNN简介 1.)什么是RNN? RNN是一种特殊的神经网络结构,考虑前一时刻的输入,且赋予了网络对前面的内容的一种'记忆'功能. 2.)RNN可以解决什么问题? 时间先后顺序的问题都可以使用RNN来解决,比如:音乐,翻译,造句,语音识别,视频图像预测,语言处理等等,后来经过变种甚至可以达到CN ...
分类:
Web程序 时间:
2020-01-21 00:49:56
阅读次数:
105
1、 三维卷积神经网络预测MNIST数字详解.html(http://c.biancheng.net/view/1929.html) RNN循环神经网络实现预测比特币价格过程详解.html(http://c.biancheng.net/view/1950.html) 2、 3、 4、 5、 ...
分类:
其他好文 时间:
2020-01-16 23:58:07
阅读次数:
118
一、实验介绍 实验知识点 使用 Python 从网络上爬取信息的基本方法 处理语料“洗数据”的基本方法 词袋模型搭建方法 简单 RNN 的搭建方法 简单 LSTM 的搭建方法 二、从网络中抓取并处理数据 2.1 引入相关包 下载所需数据并解压 链接:https://pan.baidu.com/s/1 ...
分类:
其他好文 时间:
2020-01-14 21:05:59
阅读次数:
117
参考 1、语音增强,2017年12月发表,偏基础概述:https://blog.csdn.net/zhanglu_wind/article/details/78700393?locationNum=8&fps=1 2、RNNoise,2017年9月发表,深度学习用于噪声抑制: https://peo ...
分类:
其他好文 时间:
2020-01-06 18:12:40
阅读次数:
84
LSTM 长短时记忆网络(Long Short Term Memory Network, LSTM),是一种改进之后的循环神经网络,可以解决RNN无法处理长距离的依赖的问题,目前比较流行。 长短时记忆网络的思路: 原始 RNN 的隐藏层只有一个状态,即h,它对于短期的输入非常敏感。再增加一个状态,即 ...
分类:
其他好文 时间:
2019-12-27 11:17:36
阅读次数:
4311
因为实训课要用LSTM+attention机制在钢材领域做一个关系抽取。作为仅仅只学过一点深度学习网络的小白在b站上学习了RNN,LSTM的一些理论知识。 但只懂得一些理论知识是无法完成关系抽取的任务的。于是从图书馆借来《tensoflow实战 深度学习框架》,在此开始记录我的tensorflow神 ...
分类:
其他好文 时间:
2019-12-13 15:27:09
阅读次数:
111