码迷,mamicode.com
首页 > 其他好文 > 详细

机器学习之SVM

时间:2019-01-15 00:45:53      阅读:192      评论:0      收藏:0      [点我收藏+]

标签:png   ima   理解   之间   一个   支持   oid   核函数   margin   

支持向量机(SVM),作为一个分类模型,可以从两部分来理解:

1)线性问题

即求最优超平面:wTx+b=0。其中要求,向量集合被超平面没有错误地分开,并且离超平面最近的向量与之间距(称作间隔 margin margin)是最大的。所以,问题就转化为求max(2/||w||),即min(||w||2/2),且存在约束条件:yi(wiTxi+b)≥1。求解该问题时,利用拉格朗日乘子式,构造拉格朗日函数:L=?wTw-∑λi(yi(wiTxi+b)-1),再求极值。

另外,需要注意如果引入软间隔,相当于L2正则化。

2)非线性问题

先将低维问题映射到高维问题,从而线性可分,然后找到核函数,满足

技术分享图片

极大降低了运算量。其中,满足这种条件的核函数共有:线性核函数、多项式核函数、高斯径向基核函数以及sigmoid核函数。

机器学习之SVM

标签:png   ima   理解   之间   一个   支持   oid   核函数   margin   

原文地址:https://www.cnblogs.com/spiritejx/p/10269393.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!