支持向量机通俗导论(理解SVM的三层境地)作者:July ;致谢:pluskid、白石、JerryLead。出处:结构之法算法之道blog。前言 动笔写这个支持向量机(support vector machine)是费了不少劲和困难的,原因非常简单,一者这个东西本身就并不好懂,要深入学...
分类:
其他好文 时间:
2015-01-01 21:14:15
阅读次数:
344
前言 支持向量机,也即SVM,号称分类算法,甚至机器学习界老大哥。其理论优美,发展相对完善,是非常受到推崇的算法。 本文将讲解的SVM基于一种最流行的实现 - 序列最小优化,也即SMO。 另外还将讲解将SVM扩展到非线性可分的数据集上的大致方法。预备术语 1. 分割超平面:就是决策边界 2...
分类:
其他好文 时间:
2014-12-31 16:11:28
阅读次数:
459
继续上一课最后的问题,当数据是非线性可分的时候需要把数据转化到 Z 空间(线性可分)才可以利用 SVM ,因此需要知道 Z 空间是什么。这节课解决了不用知道具体的 Z 空间就可以利用 SVM 进行分类。
最后,该课程介绍了如何因对过拟化的问题。思想跟十一课介绍的相同,就是设置一个限制条件。...
分类:
其他好文 时间:
2014-12-31 01:08:36
阅读次数:
191
本篇博客转自 http://www.cppblog.com/guijie/archive/2013/09/05/169034.html 在电脑文件夹E:\other\matlab 2007a\work\SVM\libsvm-mat-3.0-1 ,这个是已经编译好的,到64位机上要重新编译(不要利用别...
分类:
其他好文 时间:
2014-12-30 11:32:38
阅读次数:
503
基于信息检索课程,完成实现了一个文本分类系统,现记录一下整个实现过程。
文本分类以文本数据为分类对象,本质上是机器学习方法在信息检索领域的一种应用,可以继承机器学习领域的很多概念和方法,但同时也需要结合信息检索领域的特点进行处理。主要研究的方向是:文本分词方法、文本特征提取方法、分类算法。
本人主要使用了5种常用的分类算法,分别是kNN、Rocchio、NBC、SVM和ANN,对每种算法的结果...
分类:
其他好文 时间:
2014-12-29 16:49:34
阅读次数:
185
一、基本知识1、分隔超平面(separating hyperplane)分隔超平面,也就是分类的决策边界,分布在超平面一侧的所有数据点属于某个类别,而分布在另一侧的数据属于另一个类别2、间隔(margin)数据点到超平面的距离(1)函数间隔 用z标记:z=0时,是超平面上的点; 如果z>0,则为正类...
分类:
其他好文 时间:
2014-12-25 13:04:09
阅读次数:
196
reference: http://dataunion.org/?p=5044机器学习和深度学习学习资料比较全面的收集了机器学习的介绍文章,从感知机、神经网络、决策树、SVM、Adaboost到随机森林、Deep Learning。《机器学习经典论文/survey合集》 介绍:看题目你已经知道了是什...
分类:
其他好文 时间:
2014-12-25 00:05:56
阅读次数:
375
学习排序算法(二):Pairwise方法之Ranking SVM
1. Pairwise方法的基本思想
Pairwise考虑了文档顺序的关系。它将同一个query的相关文档其中起来,把任意两个文档组成一个pair。我们研究就是以这个pair文档对来研究的。
2. Ranking SVM...
分类:
编程语言 时间:
2014-12-24 16:22:53
阅读次数:
269
学习排序算法(二):Pairwise方法之RankNet
前面一篇博文介绍的Ranking SVM是把LTR问题转化为二值分类问题,而RankNet算法是从另外一个角度来解决,那就是概率的角度。
1. RankNet的基本思想
RankNet方法就是使用交叉熵作为损失函数,学习出一些模型(例如神经网络、决策树等)来计算每个pair的排序得分,学习模型的过程可以使用梯度下降法。...
分类:
编程语言 时间:
2014-12-24 16:21:32
阅读次数:
1832
#include "cv.h" #include "highgui.h" #include "ml.h" #include #include #include #include "objdetect.hpp"#include //#include //#include //#inc...
分类:
其他好文 时间:
2014-12-23 00:10:14
阅读次数:
327