《全连接的BP神经网络》 本文主要描述全连接的BP神经网络的前向传播和误差反向传播，所有的符号都用Ng的Machine learning的习惯。下图给出了某个全连接的神经网络图。 前向传播 前向传播 分别计算第l层神经元的输入和输出； 偏执项为1时 向量整体形式： 分量形式： 偏执项为b时 向量整体...
分类：
其他好文 时间：
2015-08-26 15:18:04
阅读次数：
223
一、引言
在机器学习以及优化组合问题中，最常用的方法就是梯度下降法。比如BP神经网络，多层感知器的神经元(units)越多，对应的权矩阵也就越大，每个权可视为一个自由度或者变量。我们知道自由度越高，变量越多，模型越复杂，模型的能力越强。但是模型能力越强，模型就越容易过拟合，对噪声太敏感。另一方面，使用梯度下降进行最优解搜寻时，多变量的误差曲面很像是连绵起伏的山峰一样，变量越多，山峰和山谷也越多，...
分类：
其他好文 时间：
2015-08-10 12:02:38
阅读次数：
261
一、引言
在机器学习以及优化组合问题中，最常用的方法就是梯度下降法。比如BP神经网络，多层感知器的神经元(units)越多，对应的权矩阵也就越大，每个权可视为一个自由度或者变量。我们知道自由度越高，变量越多，模型越复杂，模型的能力越强。但是模型能力越强，模型就越容易过拟合，对噪声太敏感。另一方面，使用梯度下降进行最优解搜寻时，多变量的误差曲面很像是连绵起伏的山峰一样，变量越多，山峰和山谷...
分类：
其他好文 时间：
2015-08-08 10:31:01
阅读次数：
270
感知器1.定义 感知器是一种最简单的前馈神经网络，多输入单输出，是一种二分类。
优点：学习算法简单，易于理解。
缺点：学习速率低，学习效果差。不便于初学者运用，参数选择很难。2.算法 采用的是一种简单的惩罚机制。条件：
样本特征值：x=[x1,x2........xn]x = [x_1, x_2 ........ x_n]， y∈y \in { -1, 1}， 初始值θ\th...
分类：
其他好文 时间：
2015-08-07 20:05:39
阅读次数：
203
本文主要内容包括： (1) 介绍神经网络基本原理，(2) AForge.NET实现前向神经网络的方法，(3) Matlab实现前向神经网络的方法 。 第0节、引例? ?????? 本文以Fisher的Iris数据集作为神经网络程序的测试数据集...
分类：
其他好文 时间：
2015-08-07 16:42:11
阅读次数：
242
http://www.cnblogs.com/hellope/archive/2012/07/05/2577814.html BP神经网络理论 科普：神经网络是一种运算模型，由 大量的节点（或称“神经元”，或“单元”）和之间相互联接构成。每个节点代表一种特定的输出...
分类：
编程语言 时间：
2015-08-04 19:32:01
阅读次数：
261
尽管神经网络的研究和应用已经取得巨大成功，但在网络的开发设计方面至今仍没有一套完善的理论做指导，应用中采取的主要设计方法是，在充分了解待解决问题的基础上将经验与试探相结合，通过多次改进性试验，最终选出一个较好的设计方案。下面是在开发神经网络中常用的基本方法和实用技术。
（1） 网络信息容量与训练样本数
多层神经网络的分类能力与网络信息容量相关，如果网络的权值和阈值总数nw表征网络信息容量，研...
分类：
其他好文 时间：
2015-08-01 22:10:14
阅读次数：
755
本文学习笔记是自己的理解，如有错误的地方，请大家指正批评，共同进步，谢谢！
之前的教学质量评价，只是通过对教学指标的简单处理，如求平均值或人为的给出各指标的权值来加权求和，其评价结果带有很大主观性。利用BP神经网络建立教学质量评价系统的模型,通过调查分析得到教学评价指标，将其标量化成确定的数据作为其输入,用BP神经网络训练后作为实际输出，将之前得到的教学效果作为期望输出。比较期望输出与实际输...
分类：
其他好文 时间：
2015-07-13 12:22:44
阅读次数：
217
遗传算法基本的操作分为：1.选择操作2.交叉操作3.变异操作遗传算法的基本要素包括染色体编码方法、适应度函数、遗传操作和运行参数。遗传算法优化BP神经网络算法流程如图3-4所示：
分类：
编程语言 时间：
2015-07-11 22:53:15
阅读次数：
285
BP网络的训练过程包括以下几个步骤：步骤一：网络初始化。步骤二：隐含层输出计算。步骤三：输出层输出计算。步骤四：误差计算。步骤五：权值更新。步骤六：阈值更新。步骤七：判断算法迭代是否结束，若没有结束，返回步骤二。语音特征信号识别：基于BP神经网络的...
分类：
其他好文 时间：
2015-07-10 18:38:08
阅读次数：
235
