码迷,mamicode.com
首页 > 其他好文 > 详细

支持向量机核函数

时间:2017-08-22 13:58:26      阅读:213      评论:0      收藏:0      [点我收藏+]

标签:好的   data   问题   例子   img   直接   cti   highlight   标识   

当我们要去判断一个非线性的区域,我们会选择用非线性

函数来拟合。

技术分享

问题是 能不能选择别的特征变量 或者有没有比这些高阶项更好的特征变量 

因为 我们并不知道 这些高阶项是不是我们真正需要的 我们之前谈到 计算机

视觉的时候 提到过这时的输入是一个有很多像素的图像 我们看到如果用高阶项

作为特征变量 运算量将是非常大的 因为 有太多的高阶项需要被计算 

 

构建核函数(这里用高斯核函数)

技术分享

k(x,l(i))是高斯核函数的简写。

 

用高斯核函数来计算两者的相似度:

 

 

技术分享

技术分享通过计算我们能得到三个新的特征变量f1,f2,f3。

 

例子我们选一个l(1),得到他的高斯函数

技术分享

下图为他的三维坐标图,在(3,5)这点高斯函数的值为1.

 

技术分享

二维图:

技术分享

 

σ取值对核函数的影响:

技术分享

我们发现σ越小梯度越大,反之梯度越小。

 

通过转换变量我们可以得到如下的预测函数:

技术分享

 

从哪里去得到l点

直接用训练样本作为标识点

技术分享

 

计算相应的新的特征值:

技术分享

相应的预测函数和代价函数:

技术分享

 

θTMθ为运算技巧,对结果不会产生较大影响,会提高运算速度。

 

核函数的偏差和方差:

技术分享

 

支持向量机核函数

标签:好的   data   问题   例子   img   直接   cti   highlight   标识   

原文地址:http://www.cnblogs.com/zhengzhe/p/7411072.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!