码迷,mamicode.com
首页 > 其他好文 > 详细

吴恩达 2.7 2.8 2.9 logistic中的梯度下降

时间:2018-07-15 23:21:05      阅读:185      评论:0      收藏:0      [点我收藏+]

标签:splay   class   2.7   UNC   orm   a+b   梯度下降   var   inf   

技术分享图片

 

逻辑回归中包含了正向传播和反向传播,用一个计算图来表示其过程

计算图:

举一个简单的例子例:

把j(a,b,c)看作logistic回归成本函数j=3(a+bc),它的计算过程为让u=bc,v=a+u 得j=3v

其中正向传播为从左到右得到成本函数的过程

反向传播为对其进行求导得到dJ/da,dJ/db,dJ/dc

现在对一个逻辑回归进行梯度计算:

给定的逻辑回归中,Loss Function 表达式如下:

技术分享图片

对于正向传播非常简单,假设输入样本x有两个特征值(x1,x2)则对应的w为w1,w2,则对应的最后的Loss Fuction如下:

技术分享图片

 

 

 对于反向传播计算如下:

技术分享图片
 
得到dz以后就可以对w1,w2进行求导了
技术分享图片
则梯度下降算法为技术分享图片

 

吴恩达 2.7 2.8 2.9 logistic中的梯度下降

标签:splay   class   2.7   UNC   orm   a+b   梯度下降   var   inf   

原文地址:https://www.cnblogs.com/Dar-/p/9315114.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!