理解条件概率在理解条件概率的前提下，参考i之前的n文章理解条件概率两阶段算法-训练和查询现在来看看大名鼎鼎的bayes算法。bayes分成训练和查询两个阶段。训练指的是对样本数据集的训练，从而找出规律。newlispe提供了bayes-train函数训练先来看看函数原型：syntax: (bayes-train list-M1 [list-M2 ... ] sym-context-D)list-M...
分类：
编程语言 时间：
2015-02-01 13:32:34
阅读次数：
291
最大间隔分类器假设我们仍然使用线性模型来建模:$y(\mathbf{x})=\mathbf{w}^T\phi(\mathbf{x})+b$假设数据的标签为$\{-1, +1\}$, 我们根据分类器的输出$y(\mathbf{x})$的符号进行分类. 假设数据是线性可分的, 那么对于标签为1的样本, ...
分类：
其他好文 时间：
2015-02-01 00:28:53
阅读次数：
153
一、协方差的意义
学过概率统计的孩子都知道，统计里最基本的概念就是样本的均值，方差，或者再加个标准差。首先我们给你一个含有n个样本的集合，依次给出这些概念的公式描述，这些高中学过数学的孩子都应该知道吧，一带而过。
均值：
标准差：
方差：
很显然，均值描述的是样本集合的中间点，它告诉我们的信息是很有限的，
而标准差给我们描述的则是样本集合的各个样本点...
分类：
其他好文 时间：
2015-01-30 22:37:22
阅读次数：
302
本文为原创，欢迎转载，转载请注明出处：
在我看来，首先要说明的一点就是，BING这个方法与其称之为一种新的一般物体识别方法，倒不如说是一种加速方法。其方法的成功之处就是在于其较快的处理速度，即其文章中所说的1000fps。目前，大部分的物体识别方法都是先学习大量的样本，获得学习结果，然后用不同的框遍历需要测试的图片，将遍历的框中内容依次与学习结果比对，然后确定框中是否存在此...
分类：
其他好文 时间：
2015-01-30 16:03:49
阅读次数：
391
上篇文章简要介绍了k-近邻算法的算法原理以及一个简单的例子，今天再向大家介绍一个简单的应用，因为使用的原理大体差不多，就没有没有过多的解释。为了具有说明性，把手写数字的图像转换为txt文件，如下图所示（三个图分别为5、6、8）：要使用k-近邻算法，需要有足够的样本数据和测试数据，我放到了两个文件夹里...
分类：
编程语言 时间：
2015-01-30 15:40:17
阅读次数：
227
本文主要讲解将CNN应用于人脸识别的流程，程序基于python+numpy+theano+PIL开发，采用类似LeNet5的CNN模型，应用于olivettifaces人脸数据库，实现人脸识别的功能，模型的误差降到了5%以下。本程序只是个人学习过程的一个toy implement，模型可能存在overfitting，因为样本小，这一点也无从验证。
但是，本文意在理清程序开发CNN模型的具体步骤，特别是针对图像识别，从拿到图像数据库，到实现一个针对这个图像数据库的CNN模型，我觉得本文对这些流程的实现具有参考...
分类：
其他好文 时间：
2015-01-30 09:13:55
阅读次数：
452
本文翻译节选自1998-Efficient BackProp, Yann LeCun et al..4.1 随机VS批训练每一次迭代, 传统训练方式都需要遍历所有数据集来计算平均梯度. 批训练也同样. 但你也可以使用随机训练的方法: 每次随机选择一个样本$\{Z^t, D^t\}$. 使用它来计算对...
分类：
其他好文 时间：
2015-01-28 21:04:45
阅读次数：
239
Stanford机器学习课程笔记——神经网络的表示
1. 为什么要引入神经网络
其实这个问题等价与神经网络和之前的回归模型有什么区别，如果你没有学过其他机器学习算法的话。这个问题可以通过一个例子来说明：如果样本都是60*60的图像，那么每个样本的特征维数都是3600个，使用前面讲的线性回归模型，那么需要建立的参数个数就有3600的；如果是非线性回归模型，还要考虑高次项...
分类：
其他好文 时间：
2015-01-28 11:10:41
阅读次数：
222
感知机(Perceptron)的模型非常简单，就是学习如下一个线性分类器\begin{align*} f(\boldsymbol{x}) = sign(\boldsymbol{w}^\top \boldsymbol{x})\end{align*}为了表述方便，这里省略了截距$b$。 若某个样本...
分类：
其他好文 时间：
2015-01-28 06:12:55
阅读次数：
114
最近一段时间，正在学习机器学习与模式识别，为了验证算法，仍然用了之前做过的项目的一些图片作为数据采集的样本，进行数据采集。前段时间，做了一个花生籽粒的识别程序，是基于SVM+HOG的，这次则是采用朴素贝叶斯来进行识别。采集了20个品种，每个品种50个样本，共1K个数据。
朴素贝叶斯分类器(Naive Bayes Classifier,或 NBC)发源于古典数学理论，有着坚实的数学基础，以及稳...
分类：
其他好文 时间：
2015-01-27 20:25:03
阅读次数：
224
