转自http://blog.csdn.net/zouxy09/article/details/8781543CNNs是第一个真正成功训练多层网络结构的学习算法。它利用空间关系减少需要学习的参数数目以提高一般前向BP算法的训练性能。在CNN中,图像的一小部分(局部感受区域)作为层级结构的最低层的输入,...
分类:
Web程序 时间:
2015-07-02 13:34:35
阅读次数:
578
转载http://hi.baidu.com/chb_seaok/item/6307c0d0363170e73cc2cb65个人阅读的Deep Learning方向的paper整理,分了几部分吧,但有些部分是有交叉或者内容重叠,也不必纠结于这属于DNN还是CNN之类,个人只是大致分了个类。目前只整理了...
分类:
其他好文 时间:
2015-07-01 22:02:46
阅读次数:
181
DNN的背景
DNN,deep neural network,近几年机器学习算法中崛起的旗舰方法,作为分类精度最高、处理高维大数据的算法,挽救了机器学习在半个世纪里发展缓慢的颓势,也为人工智能新领域的拓展起着重要作用,来看看最近一些IT巨头在深度学习领域中的开展的工作。2012年,《纽约时报》报道的google Brian项目,引起广泛关注,这个项目由机器学习领域大师级人物吴恩达和大规模计算机系...
分类:
其他好文 时间:
2015-06-28 15:35:54
阅读次数:
2873
[caffe]深度学习之图像分类模型AlexNet解读在imagenet上的图像分类challenge上Alex提出的alexnet网络结构模型赢得了2012届的冠军。要研究CNN类型DL网络模型在图像分类上的应用,就逃不开研究alexnet,这是CNN在图像分类上的经典模型(DL火起来之后)。在D...
分类:
Web程序 时间:
2015-06-23 15:06:14
阅读次数:
494
The Derivation About CNN and Antoencoder公式推导本人用latex写的关于CNN和autoencoder的推导,前向和反向传播的推导都有证明。pdf下载地址The Derivation about CNN and Antoencoder The Derivat....
分类:
Web程序 时间:
2015-06-21 11:49:10
阅读次数:
317
深度学习笔记1(卷积神经网络)
在看完了UFLDL教程之后,决定趁热打铁,继续深度学习的学习,主要想讲点卷积神经网络,卷积神经网络是深度学习的模型之一,还有其它如AutoEncoding、Deep Belief Network、Restricted Boltzmann Machine和sparse coding等。
在UFLDL教程中提到了针对大型图像的处理...
分类:
其他好文 时间:
2015-06-21 02:07:43
阅读次数:
955
CNN公式推导
1 前言
在看此blog之前,请确保已经看懂我的前两篇blog【深度学习笔记1(卷积神经网络)】和【BP算法与公式推导】。并且已经看过文献[1]的论文【Notes on Convolutional Neural Networks】。因为本文就是讲解文献[1]论文前部分公式的推导过程这里有一个假设,或许公式是错误的,如有好的理解请留言>。
2 CNN公式推导...
分类:
其他好文 时间:
2015-06-21 02:07:36
阅读次数:
4106
DeepLearnToolbox是一个简单理解CNN过程的工具箱,可以在github下载。为了理解卷积神经网络的过程,我特此对CNN部分源码进行了注释。公式的计算可以由上一篇blog推导得出。
注意:代码中没有的subsampling进行设置参数,将subsampling层的参数w就设置为了0.25,而偏置参数b设置为0。卷积层计算过程为上一层所有feature map的卷积的...
分类:
其他好文 时间:
2015-06-21 02:05:40
阅读次数:
848
CNN训练Cifar-10技巧关于数据集 Cifar-10是由Hinton的两个大弟子Alex Krizhevsky、Ilya Sutskever收集的一个用于普适物体识别的数据集。Cifar是加拿大政府牵头投资的一个先进科学项目研究所。说白了,就是看你穷的没钱搞研究,就施舍给你。Hinton、Be...
分类:
其他好文 时间:
2015-06-19 18:11:27
阅读次数:
270
之前实现了一层的卷积神经网络,又实现了两层的卷积神经网络,接下来把cnn扩展到任意层就不难了。这难道就是传说中的“道生一,一生二,二生三,三生万物”么?=。=代码还是在github上。比较有趣的一点是,我分别用两层的神经网络和一层的神经网络进行了实现,结果如下图:两层的cnn结果:一层的cnn结果:...
分类:
其他好文 时间:
2015-06-19 01:21:01
阅读次数:
226