原作者：zouxy09原文链接：http://blog.csdn.net/zouxy09/article/details/9993371Deep Learning论文笔记之（四）CNN卷积神经网络推导和实现zouxy09@qq.comhttp://blog.csdn.net/zouxy09自己平时看...
分类：
其他好文 时间：
2015-03-10 21:19:19
阅读次数：
239
卷积操作的GPU粗粒度并行实现及测试
一、 算法基本思想：
1、 GPU中的一个线程产生一个卷积结果，有多少个结果就使用多少个Block;
2、 矩阵和卷积核存放在共享内存中，卷积结果存放在全局内存中；
3、 支持10000以内任意维度的二维矩阵，卷积核最大支持16x16。
4、 支持任意多幅图像的批处...
分类：
其他好文 时间：
2015-03-02 11:12:53
阅读次数：
208
节选自语义分析的一些方法(二)，以后会不断补充。——by wepon
结合文献『Deep Learning for Computer Vision』， 以下讲讲卷积神经网络的一些注意点和问题。
激励函数，要选择非线性函数，譬如tang，sigmoid，rectified liner。在CNN里，relu用得比较多，原因在于：(1)简化BP计算；(2)使学习更快。(3)避免饱和问题(sa...
分类：
其他好文 时间：
2015-02-27 20:17:55
阅读次数：
372
本文主要讲解将CNN应用于人脸识别的流程，程序基于python+numpy+theano+PIL开发，采用类似LeNet5的CNN模型，应用于olivettifaces人脸数据库，实现人脸识别的功能，模型的误差降到了5%以下。本程序只是个人学习过程的一个toy implement，模型可能存在overfitting，因为样本小，这一点也无从验证。
但是，本文意在理清程序开发CNN模型的具体步骤，特别是针对图像识别，从拿到图像数据库，到实现一个针对这个图像数据库的CNN模型，我觉得本文对这些流程的实现具有参考...
分类：
其他好文 时间：
2015-01-30 09:13:55
阅读次数：
452
DeepLearning tutorial（4）CNN卷积神经网络原理简介+代码详解
@author：wepon
@blog：http://blog.csdn.net/u012162613/article/details/43225445
本文介绍多层感知机算法，特别是详细解读其代码实现，基于python theano，代码来自：Convolutional
Neural ...
分类：
其他好文 时间：
2015-01-28 09:46:18
阅读次数：
360
可参考http://blog.csdn.net/zouxy09/article/details/9993371这篇文章主要介绍CNN卷积神经网络的数学推导，DeepLearningToolbox里面的CNN算法主要是基于这篇文章。里面主要有BP的前向传播和反向传播的详细推导，可供参考。来自为知笔记(...
分类：
Web程序 时间：
2015-01-27 10:50:23
阅读次数：
436
这篇文章主要是基于Alex的CNN代码利用可视化技术将卷积神经网络每层学习到的特征以人眼可见的方式变现出来，即Feature Visualization，并试图提出改进。相当于是卷积神经网络的逆过程。主要框架如下图：主要利用到的技术有unpooling ,rectification,filterin...
分类：
Web程序 时间：
2015-01-27 10:49:55
阅读次数：
546
卷积神经网络(Convolutional Neural Networks, CNN)
?卷积神经网络是前馈神经网络(BP)的扩展
?1962年Hubel提出的感受野(Receptive Field)概念;
?1980年日本学者Fukushima提出神经认知机(Neocognition)，是卷积神经网络的第一个实现网络，并将其应用于手写体字符识别;
?1988年YannLeCun等提出反向传播算法，极大地推动了卷积神经网络的发展。
?1998年YannLeCun等提出LeNet-5网络结构，并应用于文档识别，...
分类：
其他好文 时间：
2015-01-20 13:44:12
阅读次数：
325
前段时间一直在关注 CNN 的实现，查看了 caffe 的代码以及 convnet2 的代码。目前对单机多卡的内容比较感兴趣，因此特别关注 convnet2 关于 multi-GPU 的支持。
其中 cuda-convnet2 的项目地址发布在：Google Code：cuda-convnet2
关于 multi-GPU 的一篇比较重要的论文就是：One weird trick for parallelizing convolutional neural networks
本文也将针对这篇文章给出分析。...
分类：
Web程序 时间：
2015-01-06 11:54:57
阅读次数：
234
在卷积神经网络中，我们经常会碰到池化操作，而池化层往往在卷积层后面，通过池化来降低卷积层输出的特征向量，同时改善结果（不易出现过拟合）。
为什么可以通过降低维度呢？
因为图像具有一种“静态性”的属性，这也就意味着在一个图像区域有用的特征极有可能在另一个区域同样适用。因此，为了描述大的图像，一个很自然的想法就是对不同位置的特征进行聚合统计，例如，人们可以计算图像一个区域上的某个特定特征的平均值...
分类：
其他好文 时间：
2015-01-06 00:56:15
阅读次数：
339
