使用SVM训练mnist数据，采用统计学习方法中的SMO算法，一对一法k(k-1)/2个SVM进行多类分类，python实现 ...
分类：
其他好文 时间：
2016-08-06 17:27:05
阅读次数：
169
[基础算法] Random Forests 2011 年 8 月 9 日 Random Forest(s)，随机森林，又叫Random Trees[2][3]，是一种由多棵决策树组合而成的联合预测模型，天然可以作为快速且有效的多类分类模型。如下图所示，RF中的每一棵决策树由众多split和node组 ...
分类：
其他好文 时间：
2016-04-17 20:28:25
阅读次数：
144
支持向量机是一个二类分类模型，但也可以扩展为多类分类。其基于间隔最大化和核技巧的特点可以使它可以灵活处理线性或非线性分类问题。
支持向量机可是形式化为一个凸二次规划问题，学习算法是求解基于凸二次规划的最优化算法。
按照训练数据是否线性可分，支持向量机可以分为基于硬间隔的线性可分支持向量机、基于软间隔的线性支持向量机、基于核技巧和软间隔最大化的非线性支持向量机。三者复杂性是依次增加的。
1、基于...
分类：
其他好文 时间：
2016-03-26 07:16:56
阅读次数：
477
1、前言： Naive Bayes（朴素贝叶斯）是一个简单的多类分类算法，该算法的前提是假设各特征之间是相互独立的。Naive Bayes 训练主要是为每一个特征，在给定的标签的条件下，计算每个特征在该标签的条件下的条件概率。最后用这个训练后的条件概率去预测。 由于我使用的Spark的版本是1......
分类：
其他好文 时间：
2016-01-05 15:34:01
阅读次数：
206
多类分类（Multiclass Classification）一个样本属于且只属于多个类中的一个，一个样本只能属于一个类，不同类之间是互斥的。典型方法：One-vs-All or One-vs.-rest：将多类问题分成N个二类分类问题，训练N个二类分类器，对第i个类来说，所有属于第i个类的样本为正...
分类：
其他好文 时间：
2015-07-25 21:20:38
阅读次数：
6247
k近邻法（k-nearest neighbor，k-NN） 输入：实例的特征向量，对应于特征空间的点；输出：实例的类别，可以取多类。 分类时，根据其k个最近邻的训练实例的类别，通过多数表决等方式进行预测。 实例类别已定，不具有显式的学习过程。k近邻法实际上利用训练数据集对特征 向量空间进行划分，并作...
分类：
其他好文 时间：
2015-06-11 21:05:23
阅读次数：
227
引文：经常在看paper的时候，就看到svm算法，但是要自己来写真的是难于上青天呀！所幸有一个libsvm的集成软件包给我们使用，这真的是太好了。下面简单介绍下怎么来使用它吧！LIBSVM是一个集成软件包，提供支持向量机分类（C-SVC,nu-SVC），回归（epsilon-SVR,nu-SVR）以及分布估计（one-class SVM）.工具包支持多类分类问题。LIBSVM是台湾大学林智仁(Lin...
分类：
系统相关 时间：
2015-06-02 13:30:01
阅读次数：
212
http://www.matlabsky.com/thread-9471-1-1.htmlSVM算法最初是为二值分类问题设计的，当处理多类问题时，就需要构造合适的多类分类器。目前，构造SVM多类分类器的方法主要有两类：一类是直接法，直接在目标函数上进行修改，将多个分类面的参数求解合并到一个最优化问题...
分类：
其他好文 时间：
2015-04-22 21:54:38
阅读次数：
149
本文是stanford大学课程：Convolutional Neural Networks for Visual Recognition 的一些笔记与第一次作业。主要内容为简单（多类）分类器的实现：KNN, SVM, softmax。softmax与SVM的一点区别，其中一张PPT说明：KNN部分框...
分类：
编程语言 时间：
2015-01-18 02:01:23
阅读次数：
1137
前面两个系列分别讲诉了SVM的基本原理和代码实现，如何解决线性不可分情况。这一次我们讲解一下SVM的最后一篇：SVM解决多类分类问题。...
分类：
其他好文 时间：
2014-12-02 17:22:52
阅读次数：
244
