之前一直没怎么接触过代码，前段时间朋友提起了caffe。本想看看caffe怎么用，无奈自己太渣了，不会用……想起之前也没怎么接触过这方面知识，就从入门开始吧。本文代码来自UFLDL tutorial。1.函数分析 MATLAB代码，和UFLDL Tutorial对应。代码调用minFunc求解，可以...
分类：
其他好文 时间：
2014-10-22 14:21:26
阅读次数：
352
http://openclassroom.stanford.edu/MainFolder/CoursePage.php?course=MachineLearninghttp://deeplearning.stanford.edu/wiki/index.php/UFLDL_Tutorialhttp:/...
分类：
其他好文 时间：
2014-10-19 21:20:01
阅读次数：
187
Self-taught 自我学习器实验报告1.Self-taught 自我学习实验描述 自我学习是无监督特征学习算法，自我学习意味着算法能够从未标注数据中学习，从而使机器学习算法能够获得更大数量的数据，因而更有可能取得更好的性能。在本实验中，我们将按照自我学习的步骤，使用稀疏自编码器和softmax...
分类：
其他好文 时间：
2014-10-17 00:23:43
阅读次数：
371
Sparse Autoencoder稀疏自编码器实验报告1.Sparse Autoencoder稀疏自编码器实验描述 自编码神经网络是一种无监督学习算法，它使用了反向传播算法，并让目标值等于输入值，比如 。自编码神经网络尝试学习一个 的函数。换句话说，它尝试逼近一个恒等函数，从而使得输出 接近于.....
分类：
Web程序 时间：
2014-10-17 00:19:13
阅读次数：
583
PS:这些是今年4月份，跟斯坦福UFLDL教程时的实验报告，当时就应该好好整理的…留到现在好凌乱了Softmax Regression实验报告1.Softmax Regression实验描述 Softmax回归模型是逻辑回归模型的推广，它可以把数据分类到两个以上的类别。在本实验中，我们的目标是采用S...
分类：
其他好文 时间：
2014-10-16 23:49:33
阅读次数：
836
本文纯转载； 主要是想系统的跟tornadomeet的顺序走一遍deeplearning;前言: 最近打算稍微系统的学习下deep learing的一些理论知识，打算采用Andrew Ng的网页教程UFLDL Tutorial，据说这个教程写得浅显易懂，也不太长。不过在这这之前还是复习下machi....
分类：
其他好文 时间：
2014-08-23 16:38:01
阅读次数：
256
在之前的章节中，我们已经很好地解决了手写体识别问题（维数为28*28）。但如果是更大的图像（维数为96*96）呢？如果你还是要学习400个特征，那么网络权重参数就有400*96*96即近400万个。
卷积特征提取
如果我们从大型彩色图像（64*64*3）中随机抽取一些小patch（8*8），学到了一些特征，然后用这些特作为滤波器去扫过整张大图，即逐行逐列做卷积。这样做可以大幅减小网...
分类：
其他好文 时间：
2014-08-18 18:41:59
阅读次数：
820
稀疏自编码器效果不错，但是有个固有缺陷：必须对输入数据的范围缩放到(0,1)。
设想一个图像如果不经预处理，直接把大于1的值输入稀疏自编码器，那么被sigmoid一下，就成了（0,1）的范围了，再被sigmoid一下，还是在（0,1）范围。这样残差根本没办法算，因为经过了sigmoid变换之后的数据已经不可能与输入数据相等了。
但是如果我们把第三层，原先的sigmoid函数换成恒等...
分类：
其他好文 时间：
2014-08-16 15:12:00
阅读次数：
302
自我学习就是稀疏编码器串联一个Softmax分类器，上一节看到，训练400次，准确率为98.2%
在此基础上，我们可以搭建我们的第一个深度网络：栈式自编码（2层）+Softmax分类器
简单地说，我们把稀疏自编码器的输出作为更高一层稀疏自编码器的输入。
和自我学习很像，似乎就是新加了一层，但是其实不然：
新技巧在于，我们这里有个微调的过程，让残差从最高层向输入层传递，微调整个网络权重...
分类：
其他好文 时间：
2014-08-16 12:37:40
阅读次数：
220
linger博客原创性博文导航
http://blog.csdn.net/lingerlanlan
大学研究游戏外挂技术开始了此博客，断断续续写了些博文。后来，开始机器学习和深度学习的研究工作，由于喜欢和热爱，业余时间也经常性学习，并写博文总结。因此，博文越来越多，由于博文是根据时间排序的，看起来有点乱，所以在此处写个导航。
UFLDL学习笔记和编程
ufldl...
分类：
其他好文 时间：
2014-08-15 00:01:26
阅读次数：
372
