本栏目内容来源于Andrew
NG老师讲解的SVM部分，包括SVM的优化目标、最大判定边界、核函数、SVM使用方法、多分类问题等，Machine
learning课程地址为：https://www.coursera.org/course/ml大家对于支持向量机（SVM）可能会比较熟悉，是个强大且流行...
分类：
其他好文 时间：
2014-05-12 12:42:21
阅读次数：
764
在之前为了寻找最有分类器，我们提出了如下优化问题：
在这里我们可以把约束条件改写成如下：
首先我们看下面的图示：
很显然我们可以看出实线是最大间隔超平面，假设×号的是正例，圆圈的是负例。在虚线上的点和在实线上面的两个一共这三个点称作支持向量。现在我们结合KKT条件分析下这个图。
我们从式子和式子可以看出如果那么，
这个也就说明时，w处于可行域的边界上，这时才是起作用的约束...
分类：
其他好文 时间：
2014-05-09 02:33:02
阅读次数：
345
简介：
1、在之前我们把要寻找最优的分割超平面的问题转化为带有一系列不等式约束的优化问题。这个最优化问题被称作原问题。我们不会直接解它，而是把它转化为对偶问题进行解决。
2、为了使问题变得易于处理，我们的方法是把目标函数和约束全部融入一个新的函数，为了使问题变得易于处理，我们的方法是把目标函数和约束全部融入一个新的函数，即拉格朗日函数，再通过这个函数来寻找最优点。即拉格朗日函数，再通过这个函数...
分类：
其他好文 时间：
2014-05-07 22:40:35
阅读次数：
331
1.Introduction and backgrounds作为本周的论文之一，这是一篇bag
of
features的基本文章之一，主要了解其中的基本思路，以及用到的基本技术，尽量使得细节更加清楚。文章中比较了两个基本的方法，分别是：BAYES和SVM。bag
of keypoints的基本原理是...
分类：
其他好文 时间：
2014-05-07 10:09:17
阅读次数：
396
(转载请注明出处：http://blog.csdn.net/buptgshengod)
1.背景知识
前面我们提到的数据集都是线性可分的，这样我们可以用SMO等方法找到支持向量的集合。然而当我们遇到线性不可分的数据集时候，是不是svm就不起作用了呢？这里用到了一种方法叫做核函数，它将低维度的数据转换成高纬度的从而实现线性可分。
可能有的人不明白为什么低维度的数据集转换成高...
分类：
编程语言 时间：
2014-05-07 03:39:44
阅读次数：
455
1. 推导出函数间隔最小 2. 约束优化函数变形至如下形式 /*min 1/2*||w||^2s.t.
(w[i]*x[i] + b[i] - y[i]) >= 0;*/ 3. 对偶函数 /*min(para alpha)
1/2*sum(i)sum(j)(alpha[i]*alpha[j]*y[i...
分类：
编程语言 时间：
2014-05-07 00:48:13
阅读次数：
498
SVM支持向量机的SMO方法实现
操作简便，效果直观，功能单一。
有助于理解SMO过程，以及惩罚因子对分类的影响。...
分类：
其他好文 时间：
2014-05-05 13:03:41
阅读次数：
232
(转载请注明出处：http://blog.csdn.net/buptgshengod)
1.背景知识
通过上一节我们通过引入拉格朗日乗子得到支持向量机变形公式。详细变法可以参考这位大神的博客——地址
参照拉格朗日公式F(x1,x2,...λ)=f(x1,x2,...)-λg(x1,x2...)。我们把上面的式子变型为：
约束条件就变成了：
...
分类：
编程语言 时间：
2014-05-04 18:14:34
阅读次数：
401
(转载请注明出处：http://blog.csdn.net/buptgshengod)
1.背景
支持向量机SVM（support vector machines）。SVM是一种二值分类器，是近些年比较流行的一种分类算法。
本文，首先要介绍一些基本的知识概念，在下一章将对SVM进行简单地代码实现。
2.基本概念
（1）线性可分...
分类：
编程语言 时间：
2014-05-01 17:48:01
阅读次数：
374
