在数学，尤其是概率论和相关领域中，归一化指数函数，或称Softmax函数，是逻辑函数的一种推广。它能将一个含任意实数的K维向量z“压缩”到另一个K维实向量σ(z)中，使得每一个元素的范围都在(0,1)之间，并且所有元素的和为1。该函数多于多分类问题中。 https://baike.baidu.com ...
分类：
其他好文 时间：
2020-04-24 19:54:34
阅读次数：
76
我做的是一个识别验证码的深度学习模型，识别的图片如下 验证码图片识别4个数字，数字间是有顺序的，设立标签时设计了四个onehot向量链接起来，成了一个长度为40的向量，然后模型的输入也是40维向量用softmax_cross_entropy_with_logits(labels=,logits=)函 ...
分类：
其他好文 时间：
2020-04-20 16:15:30
阅读次数：
285
[toc] 卷积 说到卷积，就不得不提互相关$cross orrelation$。卷积实质就是一种互相关运算，只不过要在进行互相关运算前，要把$kernal$上下左右进行翻转。即$cross correlation$的计算顺序是从左到右，从上到下，而$convolution$的顺序是从右到左，从下到 ...
分类：
其他好文 时间：
2020-04-19 17:44:30
阅读次数：
256
在阅读使用 pytorch 实现的代码时，笔者会遇到需要对某一维数据进行求和( sum )或 softmax 的操作。在 pytorch 中，上述两个方法均带有一个指定维度的 dim 参数，这里记录下 dim 参数的用法。 torch.sum 在 pytorch 中，提供 torch.sum 的两种 ...
分类：
其他好文 时间：
2020-04-15 21:03:12
阅读次数：
175
Future major versions of TensorFlow will allow gradients to flowinto the labels input on backprop by default. See @{tf.nn.softmax_cross_entropy_with_l ...
分类：
其他好文 时间：
2020-04-11 12:59:46
阅读次数：
124
Tensorflow中的交叉熵函数tensorflow中自带四种交叉熵函数，可以轻松的实现交叉熵的计算。 tf.nn.softmax_cross_entropy_with_logits() tf.nn.sparse_softmax_cross_entropy_with_logits() tf.nn. ...
分类：
其他好文 时间：
2020-04-05 15:23:50
阅读次数：
78
引自：https://blog.csdn.net/bitcarmanlee/article/details/82320853 1.softmax初探 在机器学习尤其是深度学习中，softmax是个非常常用而且比较重要的函数，尤其在多分类的场景中使用广泛。他把一些输入映射为0-1之间的实数，并且归一化 ...
分类：
其他好文 时间：
2020-04-05 13:16:24
阅读次数：
86
简单总结一下机器学习最常见的两个函数，一个是logistic函数，另一个是softmax函数，若有不足之处，希望大家可以帮忙指正。本文首先分别介绍logistic函数和softmax函数的定义和应用，然后针对两者的联系和区别进行了总结。 1. logistic函数 1.1 logistic函数定义 ...
分类：
其他好文 时间：
2020-04-04 09:54:45
阅读次数：
61
最初目的：搞清楚网络深度与模型的识别精度和准确率之间的关系。 获得的结果：不能无限制的加深网络，在网络加深到一定层数之后就会出现训练效果褪化、梯度消逝或者梯度爆炸等问题。 主要的贡献： 1、提出用多层3 x 3的卷积层来替换大尺寸的卷积核，从而提升网络深度。 2、使用1 x 1的卷积核进行各通道的特 ...
分类：
其他好文 时间：
2020-04-01 16:25:19
阅读次数：
91
softmax杂谈 在多分类问题中，我们可以使用 softmax 函数，对输出的值归一化为概率值。下面举个例子： import sys sys.path.append("E:/zlab/") from plotnet import plot_net, DynamicShow num_node_lis ...
分类：
其他好文 时间：
2020-03-27 00:38:00
阅读次数：
76
