学习过程相当于使用一个滤波器,定义滤波器大小和深度步长,在原图像上滑动,滤波器上每一个深度的点对原图像上特征点响应的量化值都是不同的,响应过程是一个卷积过程,原图像如果是3 7*7(3是原来的depth),滤波器定义为10 3*3 stride=1则获得的输出为10 5*5,在学习过程中卷积层的大小 ...
分类:
其他好文 时间:
2018-03-11 14:40:58
阅读次数:
147
CNN产生的起因是为了减少神经元数目并减少计算量 卷积神经网络的结构一般包含 输入层 _input layer_ : 用于数据的输入 卷积层 _convolutional layer_ : 使用卷积核进行特征提取以及特征映射 激励层 _active layer_ : 由于卷积是线性运算,添加非线性映 ...
分类:
其他好文 时间:
2018-03-01 20:04:15
阅读次数:
109
图片经过卷积、激活后的结果一般带有大量原图信息。 上图中卷积核提取的是竖直方向上的连续像素,但是,被增强的像素只占了结果的1/3,对于多层网络,其余重要性较低的信息也被传入了下一层网络,造成了不必要的浪费,因此需要用池化对卷基层得到的结果做聚合统计。池化的理论基础是:图像相邻位置的像素是相关的,即使 ...
分类:
其他好文 时间:
2018-02-26 11:33:47
阅读次数:
304
数字图像是一个二维的离散信号,对数字图像做卷积操作其实就是利用卷积核(卷积模板)在图像上滑动,将图像点上的像素灰度值与对应的卷积核上的数值相乘,然后将所有相乘后的值相加作为卷积核中间像素对应的图像上像素的灰度值。 从卷积的效果来看,在二维图像上进行卷积时,卷积核对所在区域上符合某种条件的像素赋予较多 ...
分类:
其他好文 时间:
2018-02-11 16:19:28
阅读次数:
224
机器学习领域有很多现成的数据集,它们由个人或组织制作、整理,且向外界公开下载,比如在字符识别领域有mnist数据集等,数据挖掘领域有Iris,Adult数据集等。这些数据集为相关技术研究者提供了很大的便捷,有了这些资源,研究者就可以把更多的精力放在模型的研究上,可以说这些数据集的制作整理者对推动数据 ...
分类:
其他好文 时间:
2018-02-09 14:58:36
阅读次数:
156
1使用BN进行数据归一化的原因 a) 神经网络学习过程本质就是为了学习数据分布,一旦训练数据与测试数据的分布不同,那么网络的泛化能力也大大降低; b) 另外一方面,一旦每批训练数据的分布各不相同(batch 梯度下降),那么网络就要在每次迭代都去学习适应不同的分布,这样将会大大降低网络的训练速度. ...
分类:
Web程序 时间:
2018-01-18 13:35:20
阅读次数:
186
使用神经网络来实现自动驾驶,也就是说使汽车通过学习来自己驾驶。 下图是通过神经网络学习实现自动驾驶的图例讲解: 左下角是汽车所看到的前方的路况图像。左上图,可以看到一条水平的菜单栏(数字4所指示方向),白亮的区段显示的就是人类驾驶者选择的方向。而最右端则对应向右急转的操作(箭头3),中心稍微向左一点 ...
分类:
Web程序 时间:
2017-12-17 16:56:46
阅读次数:
192
误差逆传播算法是迄今最成功的神经网络学习算法,现实任务中使用神经网络时,大多使用BP算法进行训练。 给定训练集$D={(x_1,y_1),(x_2,y_2),......(x_m,y_m)},x_i \in R^d,y_i \in R^l$,即输入示例 ...
分类:
编程语言 时间:
2017-11-29 22:42:15
阅读次数:
155
本文结合吴恩达课程,梳理了神经网络中的知识点,适合作为神经网络入门的资料进行学习。 ...
分类:
其他好文 时间:
2017-11-19 17:24:10
阅读次数:
110
what?: 极限学习机(extreme learning machine)ELM是一种简单易用、有效的单隐层前馈神经网络SLFNs学习算法。2004年由南洋理工大学黄广斌副教授提出。传统的神经网络学习算法(如BP算法)需要人为设置大量的网络训练参数,并且很容易产生局部最优解。极限学习机只需要设置网 ...
分类:
其他好文 时间:
2017-11-16 11:38:03
阅读次数:
134