做机器学习的同志们应该对这个都不陌生，这里简单举个例子。一般来说，使用softmax函数来将神经元输出的数值映射到0到1之间，这样神经元输出的值就变为了一个概率值。 公式和例子如下图 公式和例子如下图 ...
分类：
其他好文 时间：
2017-10-07 18:47:23
阅读次数：
109
logistic 函数： 二分类问题 softmax 函数： 将k维向量压缩成另一个k维向量，进行多分类，logistic 是softmax的一个例外 ...
分类：
其他好文 时间：
2017-10-01 18:09:57
阅读次数：
189
【softmax分类器的加速器】 https://www.tensorflow.org/api_docs/python/tf/nn/sampled_softmax_loss This is a faster way to train a softmax classifier over a huge ...
分类：
其他好文 时间：
2017-09-30 11:44:18
阅读次数：
360
Softmax回归是Logistic回归在多分类问题上的推广，是有监督的。 回归的假设函数（hypothesis function）为，我们将训练模型参数，使其能够最小化代价函数： 在Softmax回归中，我们解决的是多分类问题，类标y可以取k个不同的值。对于给定的测试输入x，我们想用假设函数针对每 ...
分类：
其他好文 时间：
2017-09-29 21:24:33
阅读次数：
181
把输入值当成幂指数求值，再正则化这些结果值。这个幂运算表示，更大的证据对应更大的假设模型（hypothesis）里面的乘数权重值。反之，拥有更少的证据意味着在假设模型里面拥有更小的乘数系数。假设模型里的权值不可以是0值或者负值。Softmax然后会正则化这些权重值，使它们的总和等于1，以此构造一个有 ...
分类：
其他好文 时间：
2017-09-28 20:48:34
阅读次数：
149
http://cs231n.github.io/linear-classify/ http://cs231n.github.io/assets/svmvssoftmax.png ...
分类：
其他好文 时间：
2017-09-25 13:19:26
阅读次数：
139
SoftMax回归 http://ufldl.stanford.edu/wiki/index.php/Softmax%E5%9B%9E%E5%BD%92 我们的训练集由 个已标记的样本构成： ，其中输入特征。（我们对符号的约定如下：特征向量 的维度为 ，其中 对应截距项 。） 由于 logistic ...
分类：
其他好文 时间：
2017-09-22 17:41:30
阅读次数：
224
距离上一篇文章，正好两个星期。 这边文章9月15日 16：30 开始写。 可能几个小时后就写完了。用一句粗俗的话说， “当你怀孕的时候，别人都知道你怀孕了， 但不知道你被日了多少回 ” ，纪念这两周的熬夜，熬夜。 因为某些原因，文章发布的有点仓促，本来应该再整理实验和代码比较合适。文章都是两个主要作 ...
分类：
其他好文 时间：
2017-09-15 20:13:32
阅读次数：
289
对于理论，简单的去看一下百度上的说明，这里直接上实例，帮助理解。 输出： [[ 0.2 0.1 0.89999998]][[ 0.25519383 0.23090893 0.51389724]] ...
分类：
其他好文 时间：
2017-09-13 10:48:20
阅读次数：
137
文章导读： 1.交叉熵损失函数 1.1 交叉熵损失函数介绍 1.2 在MNIST数字分类上使用交叉熵损失函数 1.3 交叉熵的意义以及来历 1.4 Softmax 2. 过拟合和正则化 2.1 过拟合 2.2 正则化 2.3 为什么正则化可以减轻过拟合问题 2.4 正则化的其它方法 3. 参数初始化 ...
分类：
编程语言 时间：
2017-09-07 18:16:36
阅读次数：
878
