码迷,mamicode.com
首页 > 其他好文 > 详细

BP神经网络

时间:2018-03-06 10:52:21      阅读:182      评论:0      收藏:0      [点我收藏+]

标签:期望   图片   输入   网络   style   计算   color   col   ima   

 一、前向传播

 w 权重

 b 偏差

 a 输入

技术分享图片

一般地,我们可以把前向传播过程表示:

技术分享图片

 

2. 损失函数和代价函数

 

损失函数主要指的是对于单个样本的损失或误差;


代价函数表示多样本同时输入模型的时候总体的误差——每个样本误差的和然后取平均值。

 

3. 反向传播

??反向传播的基本思想

        就是通过计算输出层与期望值之间的误差来调整网络参数,从而使得误差变小。

 

4.反向传播原理(四个基础等式)

 

 引入一个中间变量δlj,我们把它叫做网络中第l层第j个神经元的误差。

 为第l层第j个神经元添加一个扰动Δz[l]j,使得损失函数或者代价函数变小,那么这就是一个好的扰动。

 技术分享图片

 

 

单样本输入公式

 

L表示输出层层数。用?L 表示 ?L(a[L],y)

 技术分享图片

 

 5.多样本输入公式

 

 技术分享图片

 

 

 

BP神经网络

标签:期望   图片   输入   网络   style   计算   color   col   ima   

原文地址:https://www.cnblogs.com/wander-clouds/p/8512322.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!