概述起源卷积网络最初是受视觉神经机制的启发而设计的，是为识别二维形状而设计的一个多层感知器，这种网络结构对平移、比例缩放、倾斜或者共他 形式的变形具有高度不变性。1962年Hubel和Wiesel通过对猫视觉皮层细胞的研究，提出了感受野(receptive field)的概念，1984年日本学者Fukushima 基于感受野概念提出的神经认知机(neocognitron)模型，它可以看作是卷积神经网...
分类：
其他好文 时间：
2016-05-12 09:22:44
阅读次数：
600
深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。深度学习是无监督学习的一种。 深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类 ...
分类：
Web程序 时间：
2016-04-23 23:09:15
阅读次数：
451
参考书 深度学习 深度学习是机器学习研究中的一个新的领域，其动机在亍建立、模拟人脑迚行分析学习的神经网络，它模仿人脑的机制来解释数据， 例如图像，声音和文本。深度学习是无监督学习的一种。深度学习的概念源亍人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。 深度学习通过组合低层特征形成更加 ...
分类：
其他好文 时间：
2016-04-23 21:20:41
阅读次数：
211
深度学习的特点：1）建立、模仿人脑学习的机制2）含多隐层的多层感知器；组合底层特征形成更加抽象的高层特征3）发现数据的分布性特征4）源于人工神经网络人工神经网络的低潮：1）容易过拟合、参数难tune，需要不少trick2）训练速度比较慢，在层次比较少（小于等于3）的情况下效果并不比其它方法更优人工神...
分类：
其他好文 时间：
2015-10-18 15:19:19
阅读次数：
366
1.多层感知器简介 多层感知器（MLP）可以看做一个逻辑回归，不过它的输入要先进行一个非线性变换，这样数据就被映射到线性可分的空间了，这个空间我们称为隐藏层。通常单层隐藏层就可以作为一个感知器了，其结构如...
分类：
其他好文 时间：
2015-10-16 23:26:19
阅读次数：
571
一、引言
在机器学习以及优化组合问题中，最常用的方法就是梯度下降法。比如BP神经网络，多层感知器的神经元(units)越多，对应的权矩阵也就越大，每个权可视为一个自由度或者变量。我们知道自由度越高，变量越多，模型越复杂，模型的能力越强。但是模型能力越强，模型就越容易过拟合，对噪声太敏感。另一方面，使用梯度下降进行最优解搜寻时，多变量的误差曲面很像是连绵起伏的山峰一样，变量越多，山峰和山谷也越多，...
分类：
其他好文 时间：
2015-08-10 12:02:38
阅读次数：
261
一、引言
在机器学习以及优化组合问题中，最常用的方法就是梯度下降法。比如BP神经网络，多层感知器的神经元(units)越多，对应的权矩阵也就越大，每个权可视为一个自由度或者变量。我们知道自由度越高，变量越多，模型越复杂，模型的能力越强。但是模型能力越强，模型就越容易过拟合，对噪声太敏感。另一方面，使用梯度下降进行最优解搜寻时，多变量的误差曲面很像是连绵起伏的山峰一样，变量越多，山峰和山谷...
分类：
其他好文 时间：
2015-08-08 10:31:01
阅读次数：
270
对于RBF神经网络的原理已经在我的博文《机器学习之径向基神经网络（RBF NN）》中介绍过，这里不再重复。今天要介绍的是常用的RBF神经网络学习算法及RBF神经网络与多层感知器网络的对比。
一、RBF神经网络学习算法
广义的RBF神经网络结构如下图所示：
N-M-L结构对应着N维输入，M个数据中心点centers，L个输出。
RBF 网络常用学习算法
RBF 网络的设计包括结...
分类：
编程语言 时间：
2015-08-07 11:10:30
阅读次数：
370
一、批量学习 在监督学习的批量方法中，多层感知器的突出权值的调整在训练样本集合的所有N个例子都出现后进行，这构成了训练的一个回合。换句话说，批量学习的代价函数是由平均误差能量定义的。多层感知器的突触权值的调整是以回合-回合为基础的。相应地，学习曲线的一种实现方式是通过描绘平均误差能量对回合数的图形....
分类：
其他好文 时间：
2015-08-03 18:52:59
阅读次数：
427
简要介绍OpenCV的人工神经网络是机器学习算法中的其中一种，使用的是多层感知器（Multi- Layer Perception，MLP），是常见的一种ANN算法。MLP算法一般包括三层，分别是一个输入层，一个输出层和一个或多个隐藏层的神经网络组成。每一层由一个或多个神经元互相连结。一个“神经元”的输出就可以是另一个“神经元”的输入。例如，下图是一个简单3层的神经元感知器：（3个输入，2个输出以及包...
分类：
其他好文 时间：
2015-06-23 18:09:15
阅读次数：
483
