1.线性可分 对于一个数据集： 如果存在一个超平面X能够将D中的正负样本精确地划分到S的两侧，超平面如下： 那么数据集D就是线性可分的，否则，不可分。 w称为法向量，决定了超平面的方向；b为位移量，决定了超平面与原点的距离。 样本空间中的任意点x到超平面X的距离（不太熟悉的可以复习高数中空间几何那一 ...
分类：
编程语言 时间：
2018-09-03 10:32:55
阅读次数：
669
通过支持向量机，我们可以发现 支持向量机能很好的将两个线性可分的样本分开 那么对于不是线性可分的样本，我们就要通过核函数去处理他了 也就是说，核函数的做用就是将线性不可分的样本，通过核函数印射到另外一个空间中 是样本变成线性可分的 那么常用的核函数有两种 一种是线性核函数 也就是直接x‘ = w * ...
分类：
其他好文 时间：
2018-08-31 21:24:26
阅读次数：
226
不同时期的你去看红楼梦会有不一样的感触，而不同年份的我看ML也会有更深入的理解(*/ω＼*) svm是 一种判别方法 有监督的学习模型 通常用来进行模式识别、分类以及回归分析，主要解决二分类问题。其原理也从线性可分说起，然后扩展到线性不可分的情况。甚至扩展到使用非线性函数中去。 所以，我们先从最简单 ...
分类：
系统相关 时间：
2018-08-22 20:36:55
阅读次数：
277
一、基础理解 Hard Margin SVM 和 Soft Margin SVM 都是解决线性分类问题，无论是线性可分的问题，还是线性不可分的问题； 和 kNN 算法一样，使用 SVM 算法前，要对数据做标准化处理； 原因：SVM 算法中设计到计算 Margin 距离，如果数据点在不同的维度上的量纲 ...
分类：
其他好文 时间：
2018-08-12 21:30:47
阅读次数：
7404
本文来自同步博客。 前面介绍的SVM，无论是线性可分还是非线性可分，称为Hard Margin SVM，都要求对输入数据进行精确划分。我们不难想到这类SVM存在过拟合这个问题。如果输入数据本身就存在误差，精确划分反而是没意义的。本篇文章就如何处理过拟合问题，介绍即所谓的Soft Margin SVM ...
分类：
其他好文 时间：
2018-07-04 13:49:58
阅读次数：
152
在机器学习的过程中，我们经常会遇见过拟合的问题。而输入数据或features的维度过高就是导致过拟合的问题之一。。维度越高，你的数据在每个特征维度上的分布就越稀疏，这对机器学习算法基本都是灾难性的。所有出现了很多降维的方法。今天我们要讨论的就是LDA降维。 LDA降维的思路是：如果两类数据线性可分， ...
分类：
编程语言 时间：
2018-06-29 14:17:04
阅读次数：
129
由单个神经元组成的单层感知器只能用来解决线性可分的二分类问题。将其用于二分类时，就相当于在高维样本空间中，用一个超平面将样本分开。 单层感知器由一个线性组合器和一个二值阈值元件组成。输入向量各分量先与权值相乘，然后在线性组合器中进行叠加，得到的结果是一个标量。线性组合器的输出是阈值元件的输出，实际上 ...
分类：
其他好文 时间：
2018-06-24 21:05:27
阅读次数：
256
本文来自同步博客。看原博客地址会有更好的体验。 前面两篇文章介绍了支持向量机SVM的基本原理，并利用Python实践了分割超平面的求解过程。 本篇文章将介绍SVM如何对非线性可分的数据进行分类。 基本原理 SVM处理线性不可分数据的关键在于把低维空间中线性不可分的数据映射到高维空间使其线性可分。然后 ...
分类：
其他好文 时间：
2018-06-07 14:19:16
阅读次数：
164
1.1、Logistics Regression算法实践 有了上篇博客的理论准备后，接下来，我们用以及完成的函数，构建Logistics Regression分类器。我们利用线性可分的数据作为训练样本来训练。在构建模型的过程中，主要有两个步骤：（1）利用训练样本训练模型，（2）利用训练好的模型对新样 ...
分类：
编程语言 时间：
2018-05-28 15:03:09
阅读次数：
117
