码迷,mamicode.com
首页 > 其他好文 > 详细

logistic regression中的cost function选择

时间:2014-11-13 08:16:45      阅读:221      评论:0      收藏:0      [点我收藏+]

标签:blog   http   io   os   使用   on   2014   log   cti   

一般的线性回归使用的cost function为:

bubuko.com,布布扣

但由于logistic function:

bubuko.com,布布扣

本身非凸函数(convex function), 如果直接使用线性回归的cost function的话,很难到达全局最优解。

相反,很容易陷入局部最优解然后就认为到达收敛条件了。因此,logistic regression中使用的cost function为:

bubuko.com,布布扣

其图像为一个碗(bowl shape function),碗的底部为(1,0)。可以看出:当预测正确且非常自信时(h(x) = y),

cost function 为0; 当完全预测错误且非常自信时(h(x) = !y), cost function 为 inf。

logistic regression中的cost function选择

标签:blog   http   io   os   使用   on   2014   log   cti   

原文地址:http://www.cnblogs.com/instant7/p/4093435.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!