码迷,mamicode.com
首页 > 其他好文 > 详细

机器学习之逻辑回归详解

时间:2019-07-02 22:57:59      阅读:291      评论:0      收藏:0      [点我收藏+]

标签:href   概率   info   逻辑回归   导出   梯度下降   tps   inf   回归   

参考地址:
https://www.zhihu.com/question/65350200
https://github.com/GreedyAIAcademy/Machine-Learning
https://zhuanlan.zhihu.com/p/70587472

线性回归

方程

技术图片

损失函数

技术图片

求导

技术图片

令导数为0,得到

技术图片

逻辑回归

逻辑回归函数

技术图片
函数的图像:
技术图片

逻辑回归函数如何解决二元分类过程?

当P(y=1|x)的值>0.5时输出1,否则输出0

逻辑回归的损失函数

技术图片
梯度值:
技术图片

梯度下降法

技术图片

为什么

似然函数

假设分段函数f(x)结果只两个值0,1,为1的概率为p,为0的概率就是1-p,规范一些,可以描述如下:
技术图片
我们把训练数据(X,y)代入公式,让矩阵中所有的p(1-p)相乘。
技术图片
为什么要相乘?有人说是因为要用一个函数将y=0和y=1的形式统一起来,其实不准确,应该是为了“最大似然估计”。
参考:https://www.zhihu.com/question/65350200

推导损失函数

通过最大似然估计,推导出损失函数
技术图片

推导出梯度值

似然函数:
技术图片

似然函数,对权值求偏导数
技术图片

机器学习之逻辑回归详解

标签:href   概率   info   逻辑回归   导出   梯度下降   tps   inf   回归   

原文地址:https://www.cnblogs.com/bugutian/p/11123484.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!