码迷,mamicode.com
首页 > 其他好文 > 详细

吴恩达《机器学习》课程总结(6)逻辑回归

时间:2018-07-01 23:07:30      阅读:273      评论:0      收藏:0      [点我收藏+]

标签:而在   成本   技术分享   com   机器   6.2   nbsp   输出变量   sub   

6.1分类问题

回归问题的输出可能是很大的数,而在分类问题中,比如二分类,希望输出的值是0或1,如何将回归输出的值转换成分类的输出0,1成为关键。

6.2假说表示

技术分享图片

其中:

技术分享图片

技术分享图片

hθ(x)的作用是,对于给定的输入变量,根据选择的参数计算输出变量=1的可能性即hθ(x)=P(y=1|x;θ)。

6.3判定边界

g(z)中的z即为判定边界,如下

技术分享图片

技术分享图片

6.4代价函数

如果用之前回归时用的平方损失函数,代价函数将是非凸函数,会收敛到局部最优,而不是全局最优。

技术分享图片

定义新的代价函数:

技术分享图片

技术分享图片

求导结果:

技术分享图片

虽然式子看上去与回归的相同,但是hθ(x)实际定义不一样,所以二者是两回事。

6.5简化的成本函数和梯度下降

技术分享图片

6.6高级优化

共轭梯度法、变尺度法、限制变尺度法。

6.7多类别分类:一对多

将某一类分为一类,剩余的其他类分为另一类,如下所示:

技术分享图片

得到多个分类器,取分值最高的分类器作为判别:

技术分享图片

 

吴恩达《机器学习》课程总结(6)逻辑回归

标签:而在   成本   技术分享   com   机器   6.2   nbsp   输出变量   sub   

原文地址:https://www.cnblogs.com/ys99/p/9251549.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!