码迷,mamicode.com
首页 > 其他好文 > 详细

softmax上溢和下溢

时间:2020-02-12 16:45:25      阅读:85      评论:0      收藏:0      [点我收藏+]

标签:方法   怎么   是什么   问题   结果   适用于   soft   log   情况   

很简单的一个问题,当softmax的变量过大或过小怎么办,比如

softmax([100,101,102])的结果是什么?

有一个方法计算上溢的情况,也就是每个变量都减去最大值,然后做softmax,

所以softmax([100,101,102])和softmax([-2,-1,0])是一样的结果;同样也适用于softmax([-100,-101,-102])的情况

还有一种方法是直接用log softmax

 

softmax上溢和下溢

标签:方法   怎么   是什么   问题   结果   适用于   soft   log   情况   

原文地址:https://www.cnblogs.com/yqpy/p/12299206.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!