码迷,mamicode.com
首页 > 其他好文 > 详细

逻辑回归代价函数的详细推导

时间:2018-03-25 12:11:25      阅读:686      评论:0      收藏:0      [点我收藏+]

标签:lock   img   最大的   详细   最大   函数   梯度下降   pos   style   

逻辑回归的本质是最大似然估计

逻辑回归的输出是

技术分享图片

分别表示取1和取0的后验概率。将上面两式联系起来得到

技术分享图片

取似然函数

技术分享图片

再取对数

技术分享图片

最大似然估计就是求使似然函数最大的参数θ。此时可以使用梯度上升法优化代价函数

取负号和求平均后得到J函数

技术分享图片

此时就是求使J函数最小的参数θ。接下来用梯度下降法优化。

 

逻辑回归代价函数的详细推导

标签:lock   img   最大的   详细   最大   函数   梯度下降   pos   style   

原文地址:https://www.cnblogs.com/loongofqiao/p/8642045.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!