支持向量机原理(一) 线性支持向量机 支持向量机原理(二) 线性支持向量机的软间隔最大化模型 支持向量机原理(三)线性不可分支持向量机与核函数 支持向量机原理(四)SMO算法原理 支持向量机原理(五)线性支持回归 在前面两篇我们讲到了线性可分SVM的硬间隔最大化和软间隔最大化的算法，它们对线性可分的... ...
分类：
其他好文 时间：
2019-07-19 18:41:54
阅读次数：
114
前段时间准备执业医、师兄师姐答辩拍照、找实习。博客又落下了。继续继续ing~ 紧接上一节SVM，来讲SMO，SMO为SVM最难啃的地方了吧，看到一大推公式。 我本着省去最繁琐的公式推导，给大家尽可能用人话讲清SMO的道理。 首先，上一节，我们得到最后的优化目标： $\underset{a}{min} ...
分类：
编程语言 时间：
2019-06-03 12:42:34
阅读次数：
226
什么是kernel Kernel的其实就是将向量feature转换与点积运算合并后的运算，如下， 概念上很简单，但是并不是所有的feature转换函数都有kernel的特性。 常见kernel 常见kernel有多项式，高斯和线性，各有利弊。 kernel SVM 在非线性的SVM算法中，如何将一组 ...
分类：
编程语言 时间：
2019-04-26 00:25:15
阅读次数：
215
1.SVM讲解 新闻分类案例 SVM是一个很复杂的算法，不是一篇博文就能够讲完的，所以此篇的定位是初学者能够接受的程度，并且讲的都是SVM的一种... ...
分类：
编程语言 时间：
2018-12-23 22:06:50
阅读次数：
221
完整版SMO算法与简单的SMO算法： 实现alpha的更改和代数运算的优化环节一模一样，唯一的不同就是选择alpha的方式。完整版应用了一些能够提速的方法。 同样使用Jupyter实现，后面不在赘述 参考地址：https://github.com/apachecn/AiLearning/blob/m ...
分类：
编程语言 时间：
2018-11-14 22:37:47
阅读次数：
232
Svm算法又称为支持向量机，是一种有监督的学习分类算法，目的是为了找到两个支持点，用来使得平面到达这两个支持点的距离最近。 通俗的说：找到一条直线，使得离该线最近的点与该线的距离最远。 我使用手写进行了推导 求解实例 软间隔，通过设置C，使得目标函数的松弛因子发生变化，松弛因子越大，表示分类越不严格 ...
分类：
编程语言 时间：
2018-10-13 22:41:10
阅读次数：
238
转https://www.cnblogs.com/litthorse/p/9332370.html 作为(曾)被认为两大最好的监督分类算法之一的adaboost元算法(另一个为前几节介绍过的SVM算法)，该算法以其简单的思想解决复杂的分类问题，可谓是一种简单而强大的算法，本节主要简单介绍adaboo ...
分类：
编程语言 时间：
2018-09-26 16:08:39
阅读次数：
165
1.线性可分 对于一个数据集： 如果存在一个超平面X能够将D中的正负样本精确地划分到S的两侧，超平面如下： 那么数据集D就是线性可分的，否则，不可分。 w称为法向量，决定了超平面的方向；b为位移量，决定了超平面与原点的距离。 样本空间中的任意点x到超平面X的距离（不太熟悉的可以复习高数中空间几何那一 ...
分类：
编程语言 时间：
2018-09-03 10:32:55
阅读次数：
669
一、基础理解 Hard Margin SVM 和 Soft Margin SVM 都是解决线性分类问题，无论是线性可分的问题，还是线性不可分的问题； 和 kNN 算法一样，使用 SVM 算法前，要对数据做标准化处理； 原因：SVM 算法中设计到计算 Margin 距离，如果数据点在不同的维度上的量纲 ...
分类：
其他好文 时间：
2018-08-12 21:30:47
阅读次数：
7404
支持向量机（support vector machine，SVM）是机器学习中一种流行的学习算法，在分类与回归分析中发挥着重要作用。基于SVM算法开发的工具箱有很多种，下面我们要安装的是十分受欢迎的libsvm工具箱。 libsvm简介 LIBSVM 是台湾大学林智仁(Lin Chih Jen)副教 ...
分类：
其他好文 时间：
2018-08-12 15:43:26
阅读次数：
247
