码迷,mamicode.com
首页 > 其他好文 > 详细

深度学习中网络设计的几点经验

时间:2018-12-28 10:46:02      阅读:412      评论:0      收藏:0      [点我收藏+]

标签:两种   深度   选择   全连接   大小   输出   维数   最大   深度学习   

1.CNN网络中的池化方式选择

  池化方式有两种:1)最大池化;2)平均池化

  在实验中我发现,最大池化要比平均池化慢很多,效果也不如平均池化好。所以,池化的方式我们尽量选择平均池化。

2.CNN卷积核的设计

  卷积的大小,遵守奇数设计原则,如【1,3,5,7】

3.CNN和RNN网络输出到全连接层数据shape的确定

  两个网络最终都要接一个全连接,你一定要保证输入全连接网络的shape是二维的,即(?,网络最终抽取特征的维数),“?”表示是batch的大小,后面是维数。

  这样无论你接下来如何处理,如两个网络的特征拼接,还是能够保持相同的shape,那么直接输入到全连接层就可以了。

 

待续

深度学习中网络设计的几点经验

标签:两种   深度   选择   全连接   大小   输出   维数   最大   深度学习   

原文地址:https://www.cnblogs.com/demo-deng/p/10188771.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!