本文笔记旨在概括地讲deep learning的经典应用。内容太大，分三块。
1. 回顾 deep learning在图像上的经典应用
1.1 Autoencoder
1.2 MLP
1.3 CNN
2. deep learning处理语音等时序信号
2.1 对什么时序信号解决什么问题
2.2 准备知识
2.2.1 Hidden Markov Model(HMM)
2.2.2 GMM-HMM for Speec...
分类：
其他好文 时间：
2014-10-10 11:21:04
阅读次数：
368
RNN(recurrent neural network)是神经网络的一种，主要用于时序数据的分析，预测，分类等。
RNN的general介绍请见下一篇文章《Deep learning From Image to Sequence》。本文针对对deep learning有一点基础（神经网络基本training原理，RBM结构及原理，简单时序模型）的小伙伴讲一下Bengio一个工作(RNNRBM)的原理和实现。
本文重点内容：针对RNN（recurrent neural network）一个应用：musi...
分类：
其他好文 时间：
2014-10-04 23:04:27
阅读次数：
298
Training Products of Experts by Minimizing Contrastive Divergence(以下简称 PoE)是 DBN 和深度学习理论的 肇始之篇,最近在爬梳和学习 RBM 的相关知识时,发 现训练 RBM 时使用的对比散度算法在各种中英文资料 中都不甚详解...
分类：
其他好文 时间：
2014-09-15 14:19:08
阅读次数：
270
最近下载了一个基于RBM的数字识别的C++代码，打开工程，发现了几个头文件 、、。矮油，这个程序还要调用其他库呀，一查，opencv（Open Source Computer Vision Library）原来是一个基于（开源）发行的跨平台计算机视觉库，目前已经实现了图像处理和计算机视觉方面的很多....
分类：
其他好文 时间：
2014-09-12 16:48:53
阅读次数：
272
深度学习的实质，是通过构建具有很多隐层的机器学习模型和海量的训练数据，来学习更有用的特征，从而最终提升分类或预测的准确性。因此，“深度模型”是手段，“特征学习”是目的。区别于传统的浅层学习，深度学习的不同在于：1）强调了模型结构的深度，通常有5层、6层，甚至10多层的隐层节点；2）明确突出了特征学习...
分类：
其他好文 时间：
2014-09-03 19:40:57
阅读次数：
234
获取数据，放到List中 将数据集划分为训练集、验证集、测试集 新建RBM对象，确定可见层、隐含层的大小 训练RBM 新建线程集 public static void train(SGDBase sgd, List samples, SGDTrainConfig config) { int xy_n...
分类：
其他好文 时间：
2014-08-22 20:58:59
阅读次数：
224
参考论文：1、A Practical Guide to TrainingRestricted Boltzmann Machines2、Classification using Discriminative Restricted Boltzmann Machines 目前研究火热的深度学习中，RBM(...
分类：
其他好文 时间：
2014-08-03 17:44:35
阅读次数：
498
约束玻尔兹曼机（RBM）是一类具有两层结构、对称连接无自反馈的随机神经网络模型，层与层之间是全连接，层内无连接，它是一种有效的特征提取方法，常用于初始化前馈神经网络，可明显提高泛化能力。而由多个RBM结构堆叠而成的深度信念网络（DBN）能提取出更好更抽象的特征，从而用来分类。...
分类：
其他好文 时间：
2014-07-27 11:48:43
阅读次数：
221
实现我们构造了RBM类. 网络的参数可以通过构造器或者是输入参数初始化.这样RBM可以用作构造一个深度网络, 在这种情况下, 权值矩阵和隐层偏置是和一个MLP网络的sigmoidal层共享的.写好构造函数, 对一些参数的默认值进行设置, 并完成一系列的初始化权值初始化成均匀分布偏置初始化成0定义与(...
分类：
其他好文 时间：
2014-07-23 16:49:11
阅读次数：
455
Deep
Learning（深度学习）：ufldl的2个教程(这个没得说，入门绝对的好教程，Ng的，逻辑清晰有练习)：一ufldl的2个教程(这个没得说，入门绝对的好教程，Ng的，逻辑清晰有练习)：二Bengio团队的deep
learning教程，用的theano库，主要是rbm系列，搞pytho...
分类：
其他好文 时间：
2014-06-07 20:05:57
阅读次数：
849
