码迷,mamicode.com
首页 > 其他好文 > 详细

CS229 笔记08

时间:2017-11-21 22:07:16      阅读:151      评论:0      收藏:0      [点我收藏+]

标签:lan   lang   优化问题   log   algorithm   函数   问题   margin   span   

CS229 笔记08

Kernel

  • 回顾之前的优化问题

    原始问题为:

    \[ \min_{w,b} \frac{1}{2}||w||^2\{\text{s.t.}}y^{(i)}\left(w^{\rm T}x^{(i)}+b\right)\geq1 \]

    原始问题的对偶问题为:

    \[ \max_{\alpha}\left\{ \sum_{i=1}^m \alpha_i - \frac{1}{2} \sum_{i,j}^m y{(i)} y^{(j)}\alpha_i \alpha_j \left\langle x^{(i)}, x^{(j)} \right\rangle \right\}\{\text{s.t. }}\alpha_i\geq0\\sum_{i=0}^my^{(i)}\alpha_i=0 \]

    求解出对偶问题得到 \(\alpha_i\) 后,代入以下等式可求出 \(w\)

    \[ w=\sum_{i=1}^m\alpha_iy^{(i)}x^{(i)} \]

    模型训练完成之后的预测函数 \(h_{w,b}(x)\) 为:

    \[ h_{w,b}(x)=g(w^{\rm T}x+b)\=g\left(\sum_{i=1}^m\alpha_iy^{(i)}\left\langle x^{(i)},x\right\rangle+b\right) \]

  • Kernel(核)

    ss

Soft Margin

  • Soft Margin(软间隔SVM)

    ss

SMO Algorithm

  • SMO Algorithm

    ss

CS229 笔记08

标签:lan   lang   优化问题   log   algorithm   函数   问题   margin   span   

原文地址:http://www.cnblogs.com/genkun/p/7875281.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!