一、介绍 AlexNet中使用了ReLU代替sigmoid激活函数，发现使用 ReLU 得到的SGD的收敛速度会比 sigmoid/tanh 快很多 二、作用 1.sigmoid与tanh有饱和区，ReLU在x>0时导数一直是1，有助于缓解梯度消失，从而加快训练速度 2.无论是正向传播还是反向传播， ...
分类：
Web程序 时间：
2018-05-05 13:19:37
阅读次数：
210
谁创造了AlexNet? AlexNet是有Hinton大神的弟子Alex Krizhevsky提出的深度卷积神经网络。它可视为LeNet的更深更宽的版本。 AlexNet主要用到的技术 成功使用ReLU作为CNN的激活函数，并验证了其效果在较深的神经网络超过了sigmiod,成功解决了sigmoi ...
分类：
Web程序 时间：
2018-04-26 23:23:55
阅读次数：
346
AlexNet 中包含了比较新的技术点，首次在CNN中成功应用了 ReLu 、Dropout和LRN等Trick。 1.成功使用了Relu作为CNN的激活函数，并验证其效果在较深的网络中超过了Sigmoid成功解决了Simoid在网络较深时的梯度弥散问题。 2.训练时使用了Dropout随机忽略一部 ...
分类：
Web程序 时间：
2018-04-23 12:12:59
阅读次数：
241
AlexNet的基本结构 Alexnet是由5个卷积层和三个全连接层组成，一共8个权重层(池化层不是权重层因为其没有参数),其中ReLU激活函数作用在每个卷积层和全连接层上，在第一个卷积层和第二个卷积层后面连接一个局部响应规范化层，最大池化层作用在第一个卷积层，第二个卷积层和第五个卷积层的输出上。 ...
分类：
Web程序 时间：
2018-04-20 14:31:56
阅读次数：
338
#Deep Learning回顾#之LeNet、AlexNet、GoogLeNet、VGG、ResNet https://zhuanlan.zhihu.com/p/22094600 #Deep Learning回顾#之基于深度学习的目标检测 https://zhuanlan.zhihu.com/p/ ...
分类：
其他好文 时间：
2018-04-12 22:20:04
阅读次数：
153
原文 ImageNet Classification with Deep ConvolutionalNeural Networks 下载地址：http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutiona ...
分类：
Web程序 时间：
2018-04-11 10:41:37
阅读次数：
1725
目录视图 摘要视图 订阅 目录视图 摘要视图 订阅 目录视图 摘要视图 订阅 [置顶] 【卷积神经网络-进化史】从LeNet到AlexNet 标签： cnn 卷积神经网络 深度学习 2016年05月17日 23:20:3046038人阅读 评论(4) 收藏 举报 分类： 【机器学习&深度学习】（15 ...
分类：
Web程序 时间：
2018-04-01 14:32:39
阅读次数：
214
近几年随着深度学习技术（deep learning）的发展和推广，在某些领域突破了传统算法的瓶颈，尤其是在计算机视觉方向，自从imagenet2012上AlexNet大杀四方后，短短几年时间，深度学习已经几乎占据了三个视觉顶会（ECCV，CVPR，ICCV）。一时间，无论在学术界和工业界，计算机视觉 ...
分类：
其他好文 时间：
2018-03-23 14:09:30
阅读次数：
167
深度网络既然在图像识别方面有很高的准确率，那将某一层网络输出数据作为图像特征也应该是可行的。该程序给出了使用Alexnet第七层作为激活层提取图像特征的示例。代码如下：clear;trainPath=fullfile(pwd,‘image‘);trainData=imageDatastore(trainPath,...‘IncludeSubfolders‘,true,‘LabelSource‘,‘
分类：
其他好文 时间：
2018-03-14 11:22:48
阅读次数：
224
一、CNN卷积神经网络的经典网络综述 下面图片参照博客：http://blog.csdn.net/cyh_24/article/details/51440344 二、LeNet-5网络 输入尺寸：32*32 卷积层：2个 降采样层(池化层)：2个 全连接层：2个 输出层：1个。10个类别（数字0-9 ...
分类：
Web程序 时间：
2018-03-09 15:34:09
阅读次数：
3068
