一、前言
经过一段时间的积累，对于神经网络，已经基本掌握了感知器、BP算法及其改进、AdaLine等最为简单和基础的前馈型神经网络知识，下面开启的是基于反馈型的神经网络Hopfiled神经网络。前馈型神经网络通过引入隐层及非线性转移函数（激活函数）使得网络具有复杂的非线性映射能力。前馈网络的输出仅由当前输入和权矩阵决定，而与网络先前的输出状态无关。J.J. Hopfield教授在反馈神经网络中引...
分类：
其他好文 时间：
2015-08-07 00:23:54
阅读次数：
412
http://www.cnblogs.com/hellope/archive/2012/07/05/2577814.html BP神经网络理论 科普：神经网络是一种运算模型，由 大量的节点（或称“神经元”，或“单元”）和之间相互联接构成。每个节点代表一种特定的输出...
分类：
编程语言 时间：
2015-08-04 19:32:01
阅读次数：
261
首先什么是人工神经网络？简单来说就是将单个感知器作为一个神经网络节点，然后用此类节点组成一个层次网络结构，我们称此网络即为人工神经网络（本人自己的理解）。当网络的层次大于等于3层（输入层+隐藏层（大于等于1）+输出层）时，我们称之为多层人工神经网络。1、神经单元的选择 那么我们应该使用什么样的...
分类：
编程语言 时间：
2015-08-02 19:46:31
阅读次数：
342
尽管神经网络的研究和应用已经取得巨大成功，但在网络的开发设计方面至今仍没有一套完善的理论做指导，应用中采取的主要设计方法是，在充分了解待解决问题的基础上将经验与试探相结合，通过多次改进性试验，最终选出一个较好的设计方案。下面是在开发神经网络中常用的基本方法和实用技术。
（1） 网络信息容量与训练样本数
多层神经网络的分类能力与网络信息容量相关，如果网络的权值和阈值总数nw表征网络信息容量，研...
分类：
其他好文 时间：
2015-08-01 22:10:14
阅读次数：
755
本文学习笔记是自己的理解，如有错误的地方，请大家指正批评，共同进步，谢谢！
之前的教学质量评价，只是通过对教学指标的简单处理，如求平均值或人为的给出各指标的权值来加权求和，其评价结果带有很大主观性。利用BP神经网络建立教学质量评价系统的模型,通过调查分析得到教学评价指标，将其标量化成确定的数据作为其输入,用BP神经网络训练后作为实际输出，将之前得到的教学效果作为期望输出。比较期望输出与实际输...
分类：
其他好文 时间：
2015-07-13 12:22:44
阅读次数：
217
在上篇《CNN卷积神经网络学习笔记2：网络结构》中，已经介绍了CNN的网络结构的详细构成，我们已经可以初始化一个自己的CNN网络了，接下来就是要用训练得到一个确定的CNN的模型，也就是确定CNN的参数。
CNN本质上就是人工神经网络的一种，只是在前几层的处理上有所不同，我们可以把卷积核看成是人工神经网络里的权值W，而采样层实质上也是一种卷积运算。所以可以基于人工神经网络的权值更新的方法来...
分类：
其他好文 时间：
2015-07-06 12:15:58
阅读次数：
5035
转自http://blog.csdn.net/zouxy09/article/details/8781543CNNs是第一个真正成功训练多层网络结构的学习算法。它利用空间关系减少需要学习的参数数目以提高一般前向BP算法的训练性能。在CNN中，图像的一小部分（局部感受区域）作为层级结构的最低层的输入，...
分类：
Web程序 时间：
2015-07-02 13:34:35
阅读次数：
578
BP(backpropgationalgorithm )：后向传导算法，顾名思义就是从神经网络的输出(顶层)到输入(底层)进行求解。那么求解什么呢，求解的就是神经网络中的参数的导数，即参数梯度方向，从而就可以使用梯度下降等求解无约束问题(cost function的最值)的方法求得最终的参数。神经网络前向传播的过程比较简单，这里不做讲解(如果不了解，可以参看文献)。
1.问题分析
1.1 Co...
分类：
编程语言 时间：
2015-06-21 02:09:05
阅读次数：
248
CNN公式推导
1 前言
在看此blog之前，请确保已经看懂我的前两篇blog【深度学习笔记1(卷积神经网络)】和【BP算法与公式推导】。并且已经看过文献[1]的论文【Notes on Convolutional Neural Networks】。因为本文就是讲解文献[1]论文前部分公式的推导过程这里有一个假设，或许公式是错误的，如有好的理解请留言>。
2 CNN公式推导...
分类：
其他好文 时间：
2015-06-21 02:07:36
阅读次数：
4106
BP算法是一种最有效的多层神经网络学习方法，其主要特点是信号前向传递，而误差后向传播，通过不断调节网络权重值，使得网络的最终输出与期望输出尽可能接近，以达到训练的目的。一、多层神经网络结构及其描述 下图为一典型的多层神经网络。通常一个多层神经网络由L层神经元组成，其中：第1层称为输入层，最后一层（第...
分类：
其他好文 时间：
2015-06-21 00:47:45
阅读次数：
1160
