码迷,mamicode.com
首页 > 其他好文 > 详细

反向传播与参数更新

时间:2018-12-10 13:54:50      阅读:318      评论:0      收藏:0      [点我收藏+]

标签:src   图片   alt   反向   http   分享图片   需要   计算   算法   

 

反向传播原理比较简单,先定义损失函数,然后使用梯度下降算法找到最小化损失函数的W和b,梯度下降算法需要计算损失函数对w和b的偏导,求偏导只使用了一个链式法则。

 

1、反向转播

 技术分享图片

 

 

2、参数更新

 技术分享图片

 

η是学习率

反向传播与参数更新

标签:src   图片   alt   反向   http   分享图片   需要   计算   算法   

原文地址:https://www.cnblogs.com/yongfuxue/p/10095710.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!