码迷,mamicode.com
首页 > 其他好文 > 详细

【机器学习】Softmax及求导

时间:2020-07-15 23:12:01      阅读:195      评论:0      收藏:0      [点我收藏+]

标签:分布   概率分布   概率   max   https   求导   com   函数   反向   

Softmax

softmax可以将经交叉熵损失函数的输出都映射到 0 到 1 间,且各分类累和为 1。符合概率分布。

假设共有 n 个输出 [Z1,...,Zn],对第 i 个元素 Zi 的softmax的计算公式:Si = ezi / sum(ezn)

 

softmax的反向传播求导过程

 https://zhuanlan.zhihu.com/p/25723112

【机器学习】Softmax及求导

标签:分布   概率分布   概率   max   https   求导   com   函数   反向   

原文地址:https://www.cnblogs.com/YeZzz/p/13307200.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!