码迷,mamicode.com
首页 > 其他好文 > 详细

手动进行ckpt模型量化,从float32变为float16

时间:2020-06-26 14:50:26      阅读:61      评论:0      收藏:0      [点我收藏+]

标签:模型   oom   float   量化   ack   question   stack   oat   com   

https://stackoom.com/question/3pJ52/%E4%BB%8E%E6%A3%80%E6%9F%A5%E7%82%B9%E6%81%A2%E5%A4%8D%E6%97%B6-%E5%A6%82%E4%BD%95%E6%9B%B4%E6%94%B9%E5%8F%82%E6%95%B0%E7%9A%84%E6%95%B0%E6%8D%AE%E7%B1%BB%E5%9E%8B

手动进行ckpt模型量化,从float32变为float16

标签:模型   oom   float   量化   ack   question   stack   oat   com   

原文地址:https://www.cnblogs.com/liutianrui1/p/13194798.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!