稀疏自编码器的学习结构:稀疏自编码器Ⅰ：神经网络反向传导算法梯度检验与高级优化稀疏自编码器Ⅱ：自编码算法与稀疏性可视化自编码器训练结果Exercise: Sparse Autoencoder自编码算法与稀疏性已经讨论了神经网络在有监督学习中的应用，其中训练样本是有类别标签的（x_i，y_i）。自编码...
分类：
其他好文 时间：
2014-11-28 21:22:29
阅读次数：
588
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数，Χ2统计量，剪枝朴素贝叶斯非参数估计，贝叶斯估计线性判别分析Fishre判别，特征向量求解K最邻近相似度度量：欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归（二值分类）参数估计（极大似然估计...
分类：
其他好文 时间：
2014-11-27 12:34:58
阅读次数：
369
一、引言 本材料参考Andrew Ng大神的机器学习课程http://cs229.stanford.edu 在上一篇有监督学习回归模型中，我们利用训练集直接对条件概率p(y|x;θ)建模，例如logistic回归就利用hθ(x) = g(θTx)对p(y|x;θ)建模（其中g(z)是sigmoi.....
分类：
其他好文 时间：
2014-11-01 17:46:57
阅读次数：
202
一、引言 本材料参考Andew Ng大神的机器学习课程http://cs229.stanford.edu，以及斯坦福无监督学习UFLDL tutorialhttp://ufldl.stanford.edu/wiki/index.php/UFLDL_Tutorial 机器学习中的回归问题属于有监督.....
分类：
其他好文 时间：
2014-10-31 22:09:46
阅读次数：
221
有监督学习：对具有概念标记（分类）的训练样本进行学习，以尽可能对训练样本集外的数据进行标记（分类）预测。这里，所有的标记（分类）是已知的。因此，训练样本的岐义性低。无监督学习：对没有概念标记（分类）的训练样本进行学习，以发现训练样本集中的结构性知识。这里，所有的标记（分类）是未知的。因此，训练样本的...
分类：
其他好文 时间：
2014-10-17 23:11:22
阅读次数：
187
机器学习有着丰富的理论，分为有监督学习和无监督学习，有监督学习包括分类和回归，无监督学习包括聚类等。各种机器学习算法的基本思想都不难理解（这里的基本思想我的理解是各个算法的模型建立），而难点在于对于模型的求解，这里边有着优美的理论还有一些技巧，如SVM，EM，CA..
分类：
编程语言 时间：
2014-10-17 05:25:44
阅读次数：
619
有了前面的准备，可以用Theano实现一个逻辑回归程序，逻辑回归是典型的有监督学习。
为了形象，这里我们假设分类任务是区分人与狗的照片。
首先是生成随机数对象
importnumpy
importtheano
importtheano.tensor as T
rng= numpy.random
数据初始化
有400张照片，这些照片不是人的就是狗的。
每张照片是28*28=78...
分类：
其他好文 时间：
2014-08-28 22:46:06
阅读次数：
360
自我学习就是把稀疏自编码器与Softmax回归分类器串联起来。
稀疏编码器是用来无监督学习的，使用无标签数据。
Softmax回归分类器是有监督学习，使用标签数据。
实际生活中，我们能轻松获得大量无标签数据（如从网上随机下载海量图片）
难以获得大量有标签数据（有标签的数据库通常不会太大，而且很贵）
如果我们手头上只有少量标签数据，但是有大量的无标签数据，这是就可以采用自我...
分类：
其他好文 时间：
2014-08-13 13:03:36
阅读次数：
493
机器学习问题方法总结大类名称关键词有监督分类决策树信息增益分类回归树Gini指数，Χ2统计量，剪枝朴素贝叶斯非参数估计，贝叶斯估计线性判别分析Fishre判别，特征向量求解K最邻近相似度度量：欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数逻辑斯谛回归（二值分类）参数估计（极大似然估计...
分类：
其他好文 时间：
2014-08-03 23:05:56
阅读次数：
416
1、介绍 ?决策树（decision tree）是一种有监督的机器学习算法，是一个分类算法。在给定训练集的条件下，生成一个自顶而下的决策树，树的根为起点，树的叶子为样本的分类，从根到叶子的路径就是一个样本进行分类的过程。 ?下图为一个决策树的例子，见http://zh.wikipedia.org/w...
分类：
其他好文 时间：
2014-06-25 13:13:16
阅读次数：
172
