在上篇《CNN卷积神经网络学习笔记2：网络结构》中，已经介绍了CNN的网络结构的详细构成，我们已经可以初始化一个自己的CNN网络了，接下来就是要用训练得到一个确定的CNN的模型，也就是确定CNN的参数。
CNN本质上就是人工神经网络的一种，只是在前几层的处理上有所不同，我们可以把卷积核看成是人工神经网络里的权值W，而采样层实质上也是一种卷积运算。所以可以基于人工神经网络的权值更新的方法来...
分类：
其他好文 时间：
2015-07-06 12:15:58
阅读次数：
5035
这篇笔记中，通过一个简单的CNN的例子，梳理一下CNN的网络结构的细节。
以下是一个6层的CNN网络，我们输入的是一张大小为28*28的图片。
需要注意的有：
1，这里输入的是一张图片，如果我们输入了50张图片，那么下图中的每一个方框（代表一种特征图）实际上代表了50张图片。
2，在S3和S5的采样层只做了mean pooling，其实一般还会有加偏置和激活的操作，这个CNN网络比较简单，...
分类：
其他好文 时间：
2015-07-05 21:18:32
阅读次数：
1626
Convolutional Neural Network 卷积神经网络是基于人工神经网络提出的。人工神经网络模拟人的神经系统，由一定数量的神经元构成。在一个监督学习问题中，有一组训练数据(xi,yi)(x_i,y_i)，x是样本，y是label，把它们输入人工神经网络，会得到一个非线性的分类超平面hw,b(x)h_{w,b}(x)，在这篇笔记中先梳理一下传统人工神经网络的基本概念，再基于传统人工神经...
分类：
其他好文 时间：
2015-07-05 15:04:01
阅读次数：
1102
BP算法是一种最有效的多层神经网络学习方法，其主要特点是信号前向传递，而误差后向传播，通过不断调节网络权重值，使得网络的最终输出与期望输出尽可能接近，以达到训练的目的。一、多层神经网络结构及其描述 下图为一典型的多层神经网络。通常一个多层神经网络由L层神经元组成，其中：第1层称为输入层，最后一层（第...
分类：
其他好文 时间：
2015-06-21 00:47:45
阅读次数：
1160
神经网络学习入门（一） 生物神经网络的启发与人工神经网络的发展历史导论-历史背景和生物学知识生物神经网络（生物学的观点）1.生物神经功能，包括记忆，都储存在神经元和神经元之间的连接之中。2.学习被视为建立起这些神经元之间的连接，或者改变更新已存在的连接。由此提出一个问题：我们...
分类：
其他好文 时间：
2015-04-18 17:37:10
阅读次数：
103
这个系列的文章主要记录学习《神经网络设计》这本书的收获与总结。第一部分主要介绍三种网络：
感知机
Hamming
Hopfield
感知机采用对称硬极限传输函数hardlims的单层感知机两输入感知机,w11 = -1, w22 = 1如下a = hardlims(n) = hardlims([-1 1]p + b)
HammingHamming网络的目标时判定哪个标准向量最接近输入向量。判定结果由...
分类：
其他好文 时间：
2015-03-13 00:24:59
阅读次数：
194
学习是神经网络一种最重要也最令人注目的特点。在神经网络的发展进程中，学习算法的研究有着十分重要的地位。目前，人们所提出的神经网络模型都是和学习算 法相应的。所以，有时人们并不去祈求对模型和算法进行严格的定义或区分。有的模型可以有多种算法．而有的算法可能可用于多种模型。不过，有时人们也称算法 为模型。...
分类：
其他好文 时间：
2015-03-10 10:25:09
阅读次数：
211
DeepID人脸识别算法之三代
DeepID，目前最强人脸识别算法，已经三代。
如今，深度学习方兴未艾，大数据风起云涌，各个领域都在处于使用深度学习进行强突破的阶段，人脸识别也不例外，香港中文大学的团队使用卷积神经网络学习特征，将之用于人脸识别的子领域人脸验证方面，取得了不错的效果。虽然是今年7月份才出的成果，但连发三箭，皆中靶心，使用的卷积神经网络已经改进了三次，破竹之势节节高。故而在这里将DeepID神经网络的三代进化史总结一下，以期相互讨论，互有增益。...
分类：
编程语言 时间：
2014-12-23 00:16:37
阅读次数：
366
对人脸检测的研究最初可以追溯到 20 世纪 70 年代，早期的研究主要致力于模板匹配、子空间方法，变形模板匹配等。近期人脸检测的研究主要集中在基于数据驱动的学习方法，如统计模型方法，神经网络学习方法，统计知识理论和支持向量机方法，基于马尔可夫随机域的方法，以及基于肤色的人脸检测。目前在实际中应用的人...
分类：
编程语言 时间：
2014-11-21 16:07:04
阅读次数：
220
在这篇文章中，我们一起来讨论一种叫作“神经网络”(Neural Network)的机器学习算法，这也是我硕士阶段的研究方向。我们将首先讨论神经网络的表层结构，在之后再具体讨论神经网络学习算法。 神经网络实际上是一个相对古老的算法，并且沉寂了一段时间，不过到了现在它又成为许多机器学习问题的首选技术。 ...
分类：
Web程序 时间：
2014-11-10 13:25:18
阅读次数：
187
