码迷,mamicode.com
首页 > 其他好文 > 详细

5-12日记录

时间:2020-05-12 14:02:01      阅读:56      评论:0      收藏:0      [点我收藏+]

标签:研究   计算   htm   日记   运算   har   src   记录   消失   

1.双曲正切函数 tanh

https://www.jiqizhixin.com/graph/technologies/9e8895bd-d540-43c0-8dc6-dc9e24e6bfd7,这个讲的挺全面的。

https://www.cnblogs.com/charlesblc/p/8660733.html

原来也就是tanh函数啊,tan是正切的表示。 

技术图片

 

双曲正切函数是双曲函数的一种,它也是双曲正弦函数(sinh)与双曲余弦函数(cosh)的商。

技术图片

 

 对应的函数图像:

技术图片

 

 值域为(-1,1)。作为激活函数:“在特征相差明显时的效果会很好,在循环过程中会不断扩大特征效果”。这个结论从哪里来?因该是2011年的那篇专门研究的论文,但是具体使用的时候我还没体会过它的差别。它也会有梯度消失的情况,并且看公式里有幂运算,所以就计算速度慢,收敛速度慢。

 

5-12日记录

标签:研究   计算   htm   日记   运算   har   src   记录   消失   

原文地址:https://www.cnblogs.com/BlueBlueSea/p/12875517.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!