码迷,mamicode.com
首页 > 其他好文 > 详细

Slim版InceptionV1训练

时间:2018-06-09 23:14:08      阅读:376      评论:0      收藏:0      [点我收藏+]

标签:log   optimize   date   params   ops   control   update   IV   div   

常见问题2个:

(1)Slim的BatchNormalization,moving_vars系列参数需要更新和保存

update_ops = tf.get_collection(tf.GraphKeys.UPDATE_OPS)
    with tf.control_dependencies(update_ops):
        optimizer = tf.train.AdamOptimizer(learning_rate=0.001)
        train_op = optimizer.minimize(total_loss, global_step=global_step)
...
saver = tf.train.Saver(tf.trainable_variables() + tf.get_collection_ref("moving_vars"))

 

(2)设置适当滑动平均窗口的Decay(并非默认的0.997)

batch_norm_params = {
      # Decay for the moving averages.
      ‘decay‘: 0.9,
...

 完整代码在这里下载,只使用了30幅图片,仅用来确认训练效果,故未设置验证和测试数据。

其中也包括加载预训练权重进行推理的代码,预训练权重下载地址:https://github.com/tensorflow/models/tree/master/research/slim

 

Slim版InceptionV1训练

标签:log   optimize   date   params   ops   control   update   IV   div   

原文地址:https://www.cnblogs.com/autosoftdev/p/9161572.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!