标签:ted init ossh div min rgb order float air
一张图搞定人生系列:
1, 看趋势(图2)
loss往上走甚至产生小山包(黄线) or 下降的特别急(绿线), 后几个epoch没变化, lr过高, 调低。
绿线还可以考虑lr decay
loss趋近于线性(蓝线), lr过低, 调高。
2, 看震荡(图1)
loss波动的很厉害, 略微略微(强调!!!)调低lr.
3, 以图二为主。
标签:ted init ossh div min rgb order float air
原文地址:https://www.cnblogs.com/cx2016/p/13328493.html