支持向量机(support vector machine, 以下简称 svm)是机器学习里的重要方法,特别适用于中小型样本、非线性、高维的分类和回归问题。本系列力图展现 svm 的核心思想和完整推导过程,以飨读者。 一、原理概述 机器学习的一大任务就是分类(Classification)。如下图所示 ...
分类:
其他好文 时间:
2019-05-24 20:50:12
阅读次数:
109
FUNCTION 相关系数 code SVM code III CNN main FUNCTION convolution FUNCTION convolution_f1 FUNCTION CNN_upweight FUNCTION init_kernel FUNCTION pooling view ...
分类:
其他好文 时间:
2019-05-23 15:53:11
阅读次数:
115
参考:https://blog.csdn.net/u013710265/article/details/72780520 贝叶斯公式就一行: P(Y|X)=P(X|Y)P(Y)P(X) 而它其实是由以下的联合概率公式推导出来:P(Y,X)=P(Y|X)P(X)=P(X|Y)P(Y) P(X)为X的先 ...
分类:
其他好文 时间:
2019-05-20 22:38:48
阅读次数:
160
现在自然语言处理用深度学习做的比较多,我还没试过用传统的监督学习方法做分类器,比如SVM、Xgboost、随机森林,来训练模型。因此,用Kaggle上经典的电影评论情感分析题,来学习如何用传统机器学习方法解决分类问题。 通过这个情感分析的题目,我会整理做特征工程、参数调优和模型融合的方法,这一系列会 ...
分类:
其他好文 时间:
2019-05-19 11:49:23
阅读次数:
224
1. PCA和LDA 百面机器学习,统计学习方法(第二版), "李政轩Linear Discriminant Analysis" 2. SVM 林轩田机器学习技法,统计学习方法(第二版) 3. Kernel Trick "李政轩" 4. Adaboost 林轩田机器学习技法,统计学习方法(第二版) ...
分类:
其他好文 时间:
2019-05-14 13:31:02
阅读次数:
108
上一节讲线性SVM时,文末提到在线性可分的情况下,找到一个支持向量,可求得b 但是当出现下图实例时,无法找到一条线将实例分为两类,所谓线性不可分问题。 针对这种情况SVM提出了软间隔(soft margin),相对于硬间隔来说,简单将线性SVM看做硬间隔。 回顾硬间隔时优化目标: min $\fra ...
分类:
其他好文 时间:
2019-05-11 23:06:23
阅读次数:
186
在感知机一节中说到,我们在线性可分的情况下,寻找一个超平面使得 一部分实例$\sum_{i=1}^{n}w _{i}\cdot x_{i}>0$, 另一部分实例$\sum_{i=1}^{n}w _{i}\cdot x_{i}<0$ 但是感知机的解不唯一,所以会出现这样的情况 我们应该如何选择一个最佳 ...
分类:
其他好文 时间:
2019-05-09 22:00:48
阅读次数:
113
原文地址:https://www.jianshu.com/p/6bf801bdc644 特征变换 问题描述 程序实现 运行结果 Soft Margin SVM 问题描述 程序实现 运行结果 ...
分类:
其他好文 时间:
2019-05-02 17:04:45
阅读次数:
129
import numpy as np import matplotlib.pyplot as plt from sklearn.svm import SVC from sklearn.datasets import load_iris from sklearn.preprocessing impor... ...
分类:
编程语言 时间:
2019-05-02 15:56:29
阅读次数:
203
支持向量机(Support Vector Machine, SVM)是一类按监督学习(supervised learning)方式对数据进行二元分类(binary classification)的广义线性分类器(generalized linear classifier),其决策边界是对学习样本求解 ...
分类:
其他好文 时间:
2019-05-01 18:47:27
阅读次数:
157