densenet 中的shortcut connection

标签：str   直接   效果   因此   传递   cut   问题   结构   color   

DenseNet 

      在FCN 网络中考虑加入skip connection，在resnet 中加入identity 映射，这些 shortcut connection等结构能够得到更好的检测效果，在denseNet 中每一层的特征图作为其他所有层的输入，因此对于 L层的网络，中间有(L(L+1))/2 个连接。

这种短连接的优点：

• 减轻梯度消失问题，有利于训练，更快收敛，因为梯度可以直接向前传递
• 加强了特征的传递
• 加强了特征的重用
• 减少参数

densenet 中的shortcut connection

标签：str   直接   效果   因此   传递   cut   问题   结构   color   

原文地址：http://www.cnblogs.com/fanhaha/p/7815315.html