标签：str 机器学习 复杂 strong 方向 效果 决策 标签 ima
一、前述
SVM在2012年前还是很牛逼的，但是12年之后神经网络更牛逼些，但我们还是很有必要了解SVM的。
二、具体
1、问题引入
要解决的问题：基于以下问题对SVM进行推导
1.1
3条线都可以将两边点分类，什么样的决策边界才是最好的呢？ 特征数据本身如果就很难分，怎么办呢？计算复杂度怎么样？能实际应用吗？
2、案例引入
假设有一个部队过雷区，我们肯定希望走的边界越大越好，这样踩雷的风险就低。
决策边界：选出来离雷区最远的（雷区就是边界上的点，要Large Margin），第二个肯定比第一个效果好。
我们希望找到离决策边界最近的点，这样就找到了决策边界。
所以，假设决策边界是一个阴影平面，求点到平面的距离转换成点到点的距离，然后再垂直方向上的投影。
数据标签定义：
优化的目标：找到一个w.b使得距离最近的点离这条线最远。
目标函数再化简：
继续转换：
SVM求解：
怎么样求a的值呢？请看下面一个例子：
SVM求解实例：
所以引出SVM的中文含义：支持向量
总结：所有边界上的点a必然不等于0，所有非边界上的点a必等于0。支持向量机中的机就是边界的意思，支持向量就是边界点,a不为0的点，决定边界。
当取60个样本点和120个样本点时，只要添加的不是边界上的样本点，那么决策边界就是不变的。
标签：str 机器学习 复杂 strong 方向 效果 决策 标签 ima
原文地址：https://www.cnblogs.com/LHWorldBlog/p/9195945.html
