最近使用Theano写了MLP和CNN的程序,由于训练样本大,单靠CPU运算速度so slow;于是乎找到了一台有NAIVID显卡的电脑进行了GPU的配置使用,期间遇到很多问题,记录如下:
平台说明:
系统:WindowsXP
Python:2.7, 建议直接使用 Python(x,y),包含了Theano需要的Numpy等库,省去自己配置
Theano: 0.6
CUDA:3....
分类:
其他好文 时间:
2014-12-06 15:25:07
阅读次数:
228
前言: 主要总结一下自己最近看文章和代码的心得。
1. CNN用于分类:具体的过程大家都知道,无非是卷积,下采样,激活函数,全连接等。CNN用于分类要求它的输入图片的大小是固定的(其实不单单是CNN,很多其它的方法也是这样的),这是它的一个不足之处之一。目前的大部分CNN都是用来做分类比较多。
2. CNN用于检测:主要的方法有两种,细分一下有三种,
第一种最为简单和暴力的,...
分类:
其他好文 时间:
2014-12-04 18:00:19
阅读次数:
384
前言:最近学习深度学习,有感写一点总结。
我们常常所说的神经网络,一般是指原始的多层感知机,简称MLP,它是在原始感知机堆叠多层而成的,MLP完全由全连接层组成(当然也有激活函数),即Caffe里的IP层。MLP的最大的缺点在于参数众多,比如说我们的网络层为1000--1000--500--20,那么它的总的参数为:1000*1000+1000*500+500*20. 参数过多不好训练,...
分类:
其他好文 时间:
2014-12-04 06:27:32
阅读次数:
295
源码和运行结果cuda:https://github.com/zhxfl/cuCNN-IC语言版本参考自:http://eric-yuan.me/针对著名手写数字识别的库mnist,准确率是99.7%,在几分钟内,CNN的训练就可以达到99.60%左右的准确率。参数配置网络的配置使用Config.t...
分类:
其他好文 时间:
2014-12-01 14:15:51
阅读次数:
469
在Hinton的教程中, 使用Python的theano库搭建的CNN是其中重要一环, 而其中的所谓的SGD - stochastic gradient descend算法又是如何实现的呢? 看下面源码(篇幅考虑只取测试模型函数, 训练函数只是多了一个updates参数): 3 classi...
分类:
其他好文 时间:
2014-12-01 10:02:51
阅读次数:
336
自今年七月份以来,一直在实验室负责卷积神经网络(Convolutional Neural Network,CNN),期间配置和使用过theano和cuda-convnet、cuda-convnet2。为了增进CNN的理解和使用,特写此博文,以其与人交流,互有增益。正文之前,先说几点自己对于CNN的感触。先明确一点就是,Deep Learning是全部深度学习算法的总称,CNN是深度学习算法在图像处理领域的一个应用。
第一点,在学习Deep learning和CNN之前,总以为它们是很了不得的知识,总以为它们...
分类:
其他好文 时间:
2014-11-29 17:37:54
阅读次数:
249
无聊看到CNN上写一篇关于中国教育的文章,觉得写的不错,于是花了点时间给翻译下来了,喜欢的蛮看下,观点不新鲜,主要是看看别人怎么看待我们的教育体制。...
分类:
其他好文 时间:
2014-11-22 17:35:59
阅读次数:
183
1、卷积核的概念,卷积核的size,就是滑动窗口的大小,例如原始数据为28*28的手写数字,滑动窗口size为5*5,则卷积核的size为5*5。卷积核就是权重集合,就是5*5+1。1表示偏置项。卷积核就是输入层的25个点+1个偏置项,链接卷积层的一个点后的权重值集合W。2、feature map ...
分类:
其他好文 时间:
2014-11-19 21:46:59
阅读次数:
265
最近需要跑R-CNN代码,花了好久才配置好环境。趁自己还记得,写一下配置的过程以及可能会出现的问题和解决办法。主要分为以下五个部分: 一、安装Ubuntu14.04双系统 二、安装cuda6.5 三、安装opencv2.4.10 四、安装MATLAB2013a 五、安装caffe 下面讲第一部分,硬...
分类:
系统相关 时间:
2014-11-10 19:46:01
阅读次数:
1494
rcnn开创性工作,但是计算时间太长,重复计算太大。spp_net将重复计算避免了。hcp是yan shuicheng那边的,是用bing生成regions,然后用normalized cut将这些regions进行聚类,然后将聚类后剩下较小数量的regions进cnn,其实整体思路也是rcnn,只...
分类:
Web程序 时间:
2014-11-10 11:49:03
阅读次数:
250