一、TensorFlow模型保存和提取方法
1. TensorFlow通过tf.train.Saver类实现神经网络模型的保存和提取。tf.train.Saver对象saver的save方法将TensorFlow模型保存到指定路径中，saver.save(sess,"Model/model.ckpt")，实际在这个文件目录下会生成4个人文件：
checkpoint文件保存了一个录下多有的模型文件列表，model.ckpt.meta保存了TensorFlow计算图的结构信息，model.ckpt保存每个变量的取值，此处文件名的写入方式会因不同参数的设置而不同，但加载restore时的文件路径名是以checkpoint文件中的“model_checkpoint_path”值决定的。
2. 加载这个已保存的TensorFlow模型的方法是saver.restore(sess,"./Model/model.ckpt")，加载模型的代码中也要定义TensorFlow计算图上的所有运算并声明一个tf.train.Saver类，不同的是加载模型时不需要进行变量的初始化，而是将变量的取值通过保存的模型加载进来，注意加载路径的写法。若不希望重复定义计算图上的运算，可直接加载已经持久化的图，saver =tf.train.import_meta_graph("Model/model.ckpt.meta")。
3.tf.train.Saver类也支持在保存和加载时给变量重命名，声明Saver类对象的时候使用一个字典dict重命名变量即可，{"已保存的变量的名称name": 重命名变量名}，saver = tf.train.Saver({"v1":u1, "v2": u2})即原来名称name为v1的变量现在加载到变量u1（名称name为other-v1）中。
4. 上一条做的目的之一就是方便使用变量的滑动平均值。如果在加载模型时直接将影子变量映射到变量自身，则在使用训练好的模型时就不需要再调用函数来获取变量的滑动平均值了。载入时，声明Saver类对象时通过一个字典将滑动平均值直接加载到新的变量中，saver = tf.train.Saver({"v/ExponentialMovingAverage": v})，另通过tf.train.ExponentialMovingAverage的variables_to_restore()函数获取变量重命名字典。
此外，通过convert_variables_to_constants函数将计算图中的变量及其取值通过常量的方式保存于一个文件中。
二、TensorFlow程序实现
-
-
-
- import tensorflow as tf
-
- v1 = tf.Variable(tf.constant(1.0, shape=[1]), name="v1")
- v2 = tf.Variable(tf.constant(2.0, shape=[1]), name="v2")
- result = v1 + v2
-
- saver = tf.train.Saver()
-
- with tf.Session() as sess:
- sess.run(tf.global_variables_initializer())
- saver.save(sess, "Model/model.ckpt")
-
-
-
- import tensorflow as tf
-
- v1 = tf.Variable(tf.constant(1.0, shape=[1]), name="v1")
- v2 = tf.Variable(tf.constant(2.0, shape=[1]), name="v2")
- result = v1 + v2
-
- saver = tf.train.Saver()
-
- with tf.Session() as sess:
- saver.restore(sess, "./Model/model.ckpt")
- print(sess.run(result))
-
-
-
- import tensorflow as tf
-
- saver = tf.train.import_meta_graph("Model/model.ckpt.meta")
-
- with tf.Session() as sess:
- saver.restore(sess, "./Model/model.ckpt")
- print(sess.run(tf.get_default_graph().get_tensor_by_name("add:0")))
-
-
-
- import tensorflow as tf
-
- u1 = tf.Variable(tf.constant(1.0, shape=[1]), name="other-v1")
- u2 = tf.Variable(tf.constant(2.0, shape=[1]), name="other-v2")
- result = u1 + u2
-
- saver = tf.train.Saver({"v1": u1, "v2": u2})
-
- with tf.Session() as sess:
- saver.restore(sess, "./Model/model.ckpt")
- print(sess.run(result))
-
-
-
- import tensorflow as tf
-
- v = tf.Variable(0, dtype=tf.float32, name="v")
- for variables in tf.global_variables():
- print(variables.name)
-
- ema = tf.train.ExponentialMovingAverage(0.99)
- maintain_averages_op = ema.apply(tf.global_variables())
- for variables in tf.global_variables():
- print(variables.name)
-
-
- saver = tf.train.Saver()
-
- with tf.Session() as sess:
- sess.run(tf.global_variables_initializer())
- sess.run(tf.assign(v, 10))
- sess.run(maintain_averages_op)
- saver.save(sess, "Model/model_ema.ckpt")
- print(sess.run([v, ema.average(v)]))
-
-
-
- import tensorflow as tf
-
- v = tf.Variable(0, dtype=tf.float32, name="v")
- saver = tf.train.Saver({"v/ExponentialMovingAverage": v})
-
- with tf.Session() as sess:
- saver.restore(sess, "./Model/model_ema.ckpt")
- print(sess.run(v))
-
-
-
- import tensorflow as tf
-
- v = tf.Variable(0, dtype=tf.float32, name="v")
- ema = tf.train.ExponentialMovingAverage(0.99)
- print(ema.variables_to_restore())
-
- saver = tf.train.Saver(ema.variables_to_restore())
-
- with tf.Session() as sess:
- saver.restore(sess, "./Model/model_ema.ckpt")
- print(sess.run(v))
-
-
-
- import tensorflow as tf
- from tensorflow.python.framework import graph_util
-
- v1 = tf.Variable(tf.constant(1.0, shape=[1]), name="v1")
- v2 = tf.Variable(tf.constant(2.0, shape=[1]), name="v2")
- result = v1 + v2
-
- with tf.Session() as sess:
- sess.run(tf.global_variables_initializer())
-
- graph_def = tf.get_default_graph().as_graph_def()
- output_graph_def = graph_util.convert_variables_to_constants(sess,
- graph_def, [‘add‘])
-
- with tf.gfile.GFile("Model/combined_model.pb", ‘wb‘) as f:
- f.write(output_graph_def.SerializeToString())
-
-
-
- import tensorflow as tf
- from tensorflow.python.platform import gfile
-
- with tf.Session() as sess:
- model_filename = "Model/combined_model.pb"
- with gfile.FastGFile(model_filename, ‘rb‘) as f:
- graph_def = tf.GraphDef()
- graph_def.ParseFromString(f.read())
-
- result = tf.import_graph_def(graph_def, return_elements=["add:0"])
- print(sess.run(result))
