码迷,mamicode.com
首页 > 其他好文 > 详细

机器学习基石:12 Nonlinear Transformation

时间:2017-10-08 19:40:12      阅读:208      评论:0      收藏:0      [点我收藏+]

标签:family   col   样本   online   通过   png   步骤   line   限制   

一、二次假设

实际上线性假设的模型复杂度是受到限制的,

需要高次假设打破这个限制。

技术分享

假设数据不是线性可分的,但是可以被一个圆心在原点的圆分开,

需要我们重新设计基于该圆的PLA等算法吗?

技术分享

不用,

只需要通过非线性转换将X域圆形可分变为Z域线性可分!

技术分享

技术分享

通用的二次假设集

技术分享

二、非线性转换

好的二次假设

技术分享

非线性转换的步骤

技术分享技术分享

三、非线性转换的代价

计算/存储代价:

次数越高,代价越大

技术分享

模型复杂度代价:

次数越高,代价越大

技术分享

高次假设能使样本内代价更小;

低次假设能保证泛化误差更小。

技术分享

可视化数据后再选择:

一是数据维度高时难以可视化;

二是可视化后再选择实际上人脑里产生的模型复杂度代价并没有算进去,

加上后实际代价不一定很低。

技术分享

四、结构化假设集

低价假设集合是包含在高次假设集合中的。

技术分享技术分享

先线性模型,效果不好的话,再使用更高次点的模型。

技术分享

 

机器学习基石:12 Nonlinear Transformation

标签:family   col   样本   online   通过   png   步骤   line   限制   

原文地址:http://www.cnblogs.com/cherrychenlee/p/7599181.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!