OpenCV支持的目标检測的方法是利用样本的Haar特征进行的分类器训练，得到的级联boosted分类器（Cascade Classification）。注意，新版本号的C++接口除了Haar特征以外也能够使用LBP特征。先介绍一下相关的结构，级联分类器的计算特征值的基础类FeatureEvalua...
分类：
其他好文 时间：
2014-08-22 21:05:49
阅读次数：
981
Machine Learning—AdaBoost algorithm
1、基本算法思路
就是"三个臭皮匠顶个诸葛亮"。将若干个弱分类器(base learner)组合起来，变成一个强分类器。大多数boosting方法都是通过不断改变训练数据的概率(权值)分布，来迭代训练弱学习器的。所以总结而言，boosting需要回答2个问题:
1、如何改变训练数据的概率(权值)分布?
提高哪些...
分类：
其他好文 时间：
2014-08-22 16:20:09
阅读次数：
167
最近的图像分类工作要用到latent svm，为了更加深入了解svm，自己动手实现一个简单版的。...
分类：
编程语言 时间：
2014-08-19 22:31:15
阅读次数：
378
1：简单概念描述
Adaboost是一种弱学习算法到强学习算法，这里的弱和强学习算法，指的当然都是分类器，首先我们需要简单介绍几个概念。
1：弱学习器：在二分情况下弱分类器的错误率会高于50%。其实任意的分类器都可以做为弱分类器，比如之前介绍的KNN、决策树、Naïve Bayes、logiostic回归和SVM都可以。这里我们采用的弱分类器是单层决策树，它是一个单节点的决策树。...
分类：
其他好文 时间：
2014-08-18 22:07:03
阅读次数：
334
通常情况下，我们直接使用分类结果的错误率就可以做为该分类器的评判标准了，但是当在分类器训练时正例数目和反例数目不相等时，这种评价标准就会出现问题。这种现象也称为非均衡分类问题。此时有以下几个衡量标准。
(1) 正确率和召回率
如下图所示：其中准确率指预测的真实正例占所有真实正例的比例，等于TP/(TP+FP)，而召回率指预测的真实正例占所有真实正例的比例，等于T...
分类：
其他好文 时间：
2014-08-18 22:04:13
阅读次数：
392
这两天看了下朴素贝叶斯分类器，在这里根据自己的理解做个简单笔记，也顺便整理一下思路。 一、简介 1. 什么是朴素贝叶斯分类器？ 朴素贝叶斯分类器是一种应用基于独立假设的贝叶斯定理的简单概率分类器。基于独立假设的意思是假设样本每个特征与其他特征都不相关，例如，一个物体具有颜色、大小、重量和材质等特征，...
分类：
其他好文 时间：
2014-08-17 14:16:12
阅读次数：
251
稀疏自编码器效果不错，但是有个固有缺陷：必须对输入数据的范围缩放到(0,1)。
设想一个图像如果不经预处理，直接把大于1的值输入稀疏自编码器，那么被sigmoid一下，就成了（0,1）的范围了，再被sigmoid一下，还是在（0,1）范围。这样残差根本没办法算，因为经过了sigmoid变换之后的数据已经不可能与输入数据相等了。
但是如果我们把第三层，原先的sigmoid函数换成恒等...
分类：
其他好文 时间：
2014-08-16 15:12:00
阅读次数：
302
贝叶斯分类器 贝叶斯分类器的分类原理是通过某对象的先验概率，利用贝叶斯公式计算出其后验概率，即该对象属于某一类的概率，选择具有最大后验概率的类作为该对象所属的类。眼下研究较多的贝叶斯分类器主要有四种，各自是：Naive Bayes、TAN、BAN和GBN。 贝叶斯网络是一个带有概率...
分类：
其他好文 时间：
2014-08-16 13:48:00
阅读次数：
246
自我学习就是稀疏编码器串联一个Softmax分类器，上一节看到，训练400次，准确率为98.2%
在此基础上，我们可以搭建我们的第一个深度网络：栈式自编码（2层）+Softmax分类器
简单地说，我们把稀疏自编码器的输出作为更高一层稀疏自编码器的输入。
和自我学习很像，似乎就是新加了一层，但是其实不然：
新技巧在于，我们这里有个微调的过程，让残差从最高层向输入层传递，微调整个网络权重...
分类：
其他好文 时间：
2014-08-16 12:37:40
阅读次数：
220
MALLET：基于Java语言的用于统计自然语言处理，文件分类，聚类，主题建模，信息提取，和其他的用于文本的机器学习应用的Java包。
MALLET包括复杂的用于文件分类的工具：
有效的用于转换文本到“特征”的程序，多种多样的算法（包括朴素贝叶斯，最大熵，和决策树）。以及一些通用的指标用于评估分类器性能。
除了分类，MALLET包括序列标注的工具，像从文本...
分类：
其他好文 时间：
2014-08-16 11:15:20
阅读次数：
256
