码迷,mamicode.com
首页 > 其他好文 > 详细

tf.train.AdamOptimizer 优化器

时间:2019-07-17 20:31:00      阅读:557      评论:0      收藏:0      [点我收藏+]

标签:The   pap   form   梯度   优化   自适应   apt   优化器   eps   

adaptive moment estimation(自适应矩估计)

tf.train.AdamOptimizer(
    learning_rate=0.001,
    beta1=0.9,
    beta2=0.999,
    epsilon=1e-08,
    use_locking=False,
    name='Adam'
)
参数:
learning_rate: (学习率)张量或者浮点数
beta1:? 浮点数或者常量张量 ,表示 The exponential decay rate for the 1st moment estimates.
beta2: ?浮点数或者常量张量 ,表示?The exponential decay rate for the 2nd moment estimates.
epsilon: A small constant for numerical stability. This epsilon is "epsilon hat" in the Kingma and Ba paper (in the formula just before Section 2.1), not the epsilon in         Algorithm 1 of the paper.
use_locking: 为True时锁定更新
name: ?梯度下降名称,默认为 "Adam"

tf.train.AdamOptimizer 优化器

标签:The   pap   form   梯度   优化   自适应   apt   优化器   eps   

原文地址:https://www.cnblogs.com/smallredness/p/11203357.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!