码迷,mamicode.com
首页 > 其他好文 > 详细

关于模型优化的思考

时间:2018-05-14 19:58:35      阅读:148      评论:0      收藏:0      [点我收藏+]

标签:影响   函数   增加   曲线   存储空间   存储   大小   使用   网络拓扑   

1、提高深度学习模型识别率的准确率的思考
(1)数据增强技术(图像翻转、白化),对训练数据做一些处理增加数据的抗造性能
(2)模型改进,尝试多种模型
(3)调整学习率首先使用较大的学习率进行训练,观察目标函数值和验证集准确率的收敛曲线,如果目标函数值下降速度和验证集准确率上升速度出现减缓时,减小学习率。循环步骤,直到减小学习率也不会影响目标函数下降或验证集准确率上升为止

2、降低识别系统对硬件的要求,应用于嵌入式设备
(1)调整模型结构(包括网络拓扑连接,运算等),可以参考一些开源模型的进化, 降低模型的大小和运算量
(2)尽量将模型或者权重或者中间参数放于RAM中提高访问速度减少能耗
(3)参数定点化降低精度,损失一些准确率来换取存储空间

关于模型优化的思考

标签:影响   函数   增加   曲线   存储空间   存储   大小   使用   网络拓扑   

原文地址:https://www.cnblogs.com/llfctt/p/9037623.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!