图 1 神经元 图 2 神经网络 如图 1和图 2 为神经元和神经网络的示意图,那么问题来了CNN的神经元是什么呢,像素还是图片? 个人认为CNN的神经元是处于三维空间中的像素点,为什么是处于三维空间呢, 如图三所示,width、height 表示图像的宽和高,depth表示图像的通道数,也即ten ...
分类:
其他好文 时间:
2017-08-18 18:25:32
阅读次数:
152
一、状态和模型在CNN网络中的训练样本的数据为IID数据(独立同分布数据),所解决的问题也是分类问题或者回归问题或者是特征表达问题。但更多的数据是不满足IID的,如语言翻译,自动文本生成。它们是一个序列问题,包括时间序列和空间序列。这时就要用到RNN网络,RNN的结构图如..
分类:
其他好文 时间:
2017-06-29 17:34:54
阅读次数:
221
一、相关理论 本篇博文主要讲解2014年ICLR的一篇非常牛逼的paper:《Network In Network》,过去一年已经有了好几百的引用量,这篇paper改进了传统的CNN网络,采用了少量的参数就松松击败了Alexnet网络,Alexnet网络参数大小是230M,采用这篇paper的算法才 ...
分类:
Web程序 时间:
2017-05-30 17:54:58
阅读次数:
258
一、状态和模型 在CNN网络中的训练样本的数据为IID数据(独立同分布数据),所解决的问题也是分类问题或者回归问题或者是特征表达问题。但更多的数据是不满足IID的,如语言翻译,自动文本生成。它们是一个序列问题,包括时间序列和空间序列。这时就要用到RNN网络,RNN的结构图如下所示: 序列样本一般分为 ...
分类:
其他好文 时间:
2017-05-12 20:11:06
阅读次数:
2398
Residual Network通过引入Skip Connection到CNN网络结构中,使得网络深度达到了千层的规模,并且其对于CNN的性能有明显的提升,但是为何这个新结构会发生作用?这个问题其实是...
分类:
Web程序 时间:
2017-04-06 19:03:01
阅读次数:
700
把r-cnn系列总结下,让整个流程更清晰。 整个系列是从r-cnn至spp-net到fast r-cnn再到faster r-cnn。 RCNN 输入图像,使用selective search来构造proposals(大小不一,需归一化),输入到CNN网络来提取特征, 并根据特征来判断是什么物体(分 ...
分类:
其他好文 时间:
2016-11-17 20:10:57
阅读次数:
208
来源:知乎 https://www.zhihu.com/question/40850491 比如说,先设计出一个CNN结构。然后用一个大的数据集A,训练该CNN网络,得到网络a。可是在数据集B上,a网络预测效果并不理想(可能的原因是数据集A和B存在一些差异,比如数据来源不同导致的代表性差异)。如果直 ...
分类:
其他好文 时间:
2016-08-03 23:58:27
阅读次数:
1501
背景之前博文中关于CNN的模型训练功能上是能实现,但是研究CNN模型内部结构的时候,对各个权重系数ww,偏差bb的shape还是存在疑惑,为什么要取1024,为什么取7*7*64,最近找到了一些相关资料,对这个问题有了新的理解,下面和大家分享一下。...
分类:
其他好文 时间:
2016-05-30 15:07:49
阅读次数:
461
LeNet网络是Yann leCun在1989年提出的一个经典CNN网络,主要用于手写字体的识别,准确率可以达到99%以上。这里采用caffe的python接口进行训练,包括对网络的定义、训练参数的定义、观察卷积效果和卷积核、记录损失函数和测试精度并绘制相关图形。#采用caffe的python接口进行lenet经典网络训练
#第一步,加载相关模块
from pylab import *
#在note...
分类:
Web程序 时间:
2016-05-05 13:01:59
阅读次数:
399
最近在学习卷积神经网络,哎,真的是一头雾水!最后决定从阅读CNN程序下手!
程序来源于GitHub的DeepLearnToolbox
由于确实缺乏理论基础,所以,先从程序的数据流入手,虽然对高手来讲,这样有点太小儿科了,但觉得对于个人理解CNN网络的结构和数据流走向有较大帮助!
下面,将要分析CNN的前向传播算法cnnff.m
本程序所用的神经网络的结构如下图的结构体net所示...
分类:
编程语言 时间:
2016-04-01 18:20:24
阅读次数:
344