标签:
(转载请注明出处:http://blog.csdn.net/buptgshengod)
SVM是一种二值分类器,是近些年比較流行的一种分类算法。
线性可分实际上就是能够用一条直线将两种不同的点区分开来。
由此我们能够得到线性不可分就是两种点混合在一起不能区分。
可是线性不可分的点事实上也能够用数学方法区分开来。
比方说一个四维的数据集我们能够用一个三维的对象将其分开,这个对象叫做超平面。
下图的超平面就是那条蓝线。
以上图为例,就是距离蓝线近期的那些点。方法就是点到线的距离判定。
一旦我们找到了这些支持向量,那么我们就能够放大这些向量,仅仅考虑这些对象,用到的是序列最小优化的思想。
比方说我们设点到超平面的距离是d,我们要求取d>1的点作为约束条件。
由于假设没有这个约束条件会使得计算出现误差。
在存在约束条件情况下求极值的问题。我们用到拉格朗日乘子法(參见百度百科)。
svm的主要任务是计算參数C。
【机器学习算法-python实现】svm支持向量机(1)—理论知识介绍
标签:
原文地址:http://www.cnblogs.com/lcchuguo/p/5346872.html