码迷,mamicode.com
首页 > 其他好文 > 详细

sigmoid 和 soft-max总结

时间:2017-11-08 20:50:55      阅读:141      评论:0      收藏:0      [点我收藏+]

标签:real   它的   c函数   分享   向量   ash   权重   rar   gis   

1)sigmoid函数(也叫逻辑斯谛函数): 
     

        引用wiki百科的定义:

  A logistic function or logistic curve is a common “S” shape (sigmoid curve).

  其实逻辑斯谛函数也就是经常说的sigmoid函数,它的几何形状也就是一条sigmoid曲线。

                                                

                                                         技术分享

  logistic曲线如下: 
  技术分享

 

2)softmax函数的定义:

      softmax is a generalization of logistic function that “squashes”(maps) a K-dimensional vector z of arbitrary real values to a K-dimensional vector σ(z) of real values in the range (0, 1) that add up to 1.  

     这句话既表明了softmax函数与logistic函数的关系,

     也同时阐述了softmax函数的本质就是将一个K 维的任意实数向量压缩(映射)成另一个K维的实数向量,其中向量中的每个元素取值都介于(0,1)之间。

 softmax函数形式如下: 
                                                      技术分享

总结:   sigmoid将一个real value映射到(0,1)的区间(当然也可以是(-1,1)),这样可以用来做二分类。 
                而softmax把一个k维的real value向量(a1,a2,a3,a4….)映射成一个(b1,b2,b3,b4….)其中bi是一个0-1的常数,然后可以根据bi的大小来进行多分类的任务,如取权重最大的一维。 
  

sigmoid 和 soft-max总结

标签:real   它的   c函数   分享   向量   ash   权重   rar   gis   

原文地址:http://www.cnblogs.com/hfdkd/p/7805988.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!