浅析SAE与DBN（Deep Learning）

笔者实力有限，诸多错误之处还望指出。
SAE与DBN两个都可以用于提取输入集特征。

• SAE
  SAE是由多个Spase AutoEncoder堆叠而成，单个Spase AutoEncoder的结构如下：
  
  在堆叠成SAE时的结构如下：
  
  以上SAE的结构可以化分为两个sparse autoencoder和一个 softmax（这里不讨论softmax）.其中的两个sparse autoencoder结构如图：
  第一层：
  第二层：
  在训练SAE的时候，也是一层一层的进行训练，首先将原始数据输入训练第一层sparse autoencoder，获得了第一层的features（也就是训练获得的参数权重W1和偏置b1），而后根据：
  z2 = W1*data+repmat(b1,1,m);
  activation = sigmoid(z2);
  获得activation作为输入训练第二层sparse autoencoder，以此类推。

  • DBN
    DBN可以说是由多个RBM叠加起来的（注意与DBM的区别）。
    DBN 由多层神经元构成，这些神经元又分为显性神经元和隐性神经元（以下简称显元和隐元）。显元用于接受输入，隐元用于提取特征。因此隐元也有个别名，叫特征检测器 (feature detectors)。最顶上的两层间的连接是无向的，组成联合内存 (associative memory)。较低的其他层之间有连接上下的有向连接。最底层代表了数据向量 (data vectors)，每一个神经元代表数据向量的一维。
    DBN 的组成元件是受限玻尔兹曼机 (Restricted Boltzmann Machines, RBM)。训练 DBN 的过程是一层一层地进行的。在每一层中，用数据向量来推断隐层，再把这一隐层当作下一层 (高一层) 的数据向量。

RBM 的训练过程，实际上是求出一个最能产生训练样本的概率分布。
RBM：

• 总结
  sae是非线性变换找到主特征方向，而DBN是基于样本的概率分布来提取高层表示。两者的的基本单元sparse autoencoder和rbm的基本原理是不同的。训练方法上，sae一般用梯度下降方法，而dbn则是kl散度。sae和dbn训练的整体流程都是一致的，都是一层一层进行训练。