1.手写数字数据集 from sklearn.datasets import load_digits digits = load_digits() 2.图片数据预处理 x：归一化MinMaxScaler() y：独热编码OneHotEncoder()或to_categorical 训练集测试集划分 ...
分类：
其他好文 时间：
2020-06-09 19:00:21
阅读次数：
70
# 基于多层感知器的softmax多分类：```from keras.models import Sequential from keras.layers import Dense, Dropout, Activation from keras.optimizers import SGD impor ...
分类：
其他好文 时间：
2020-06-02 11:24:03
阅读次数：
121
参考：https://www.zhihu.com/question/23765351 ...
分类：
其他好文 时间：
2020-05-31 11:05:15
阅读次数：
78
fitcecoc函数属于statistic&machine learning toolbox，用于训练多分类ECOC（error-correcting output code）模型 参考资料： 1.matlab10行代码完成多分类功能（SVM，softmax，fitcecoc）：https://bl ...
分类：
其他好文 时间：
2020-05-22 12:59:32
阅读次数：
413
Softmax原理 ___ Softmax函数用于将分类结果归一化，形成一个概率分布。作用类似于二分类中的Sigmoid函数。 对于一个k维向量z，我们想把这个结果转换为一个k个类别的概率分布 。softmax可以用于实现上述结果，具体计算公式为： $$ softmax(x_i) = \frac{e ...
分类：
编程语言 时间：
2020-05-20 12:43:34
阅读次数：
110
word2vec简介 word2vec工具主要包含两个模型：跳字模型（skip gram）和连续词袋模型（CBOW），以及两种高效训练的方法：负采样（negative sampling）和层序softmax（hierarchical softmax）。word2vec词向量可以较好地表达不同词之间的 ...
分类：
编程语言 时间：
2020-05-19 18:20:51
阅读次数：
58
深度学习调参体验（二） 1. 激活函数选择： 常用的激活函数有relu、leaky-relu、sigmoid、tanh等。对于输出层，多分类任务选用softmax输出，二分类任务选用sigmoid输出，回归任务选用线性输出。而对于中间隐层，则优先选择relu激活函数（relu激活函数可以有效的解决s ...
分类：
其他好文 时间：
2020-05-13 20:17:25
阅读次数：
64
做过多分类任务的同学一定都知道softmax函数。softmax函数，又称归一化指数函数。它是二分类函数sigmoid在多分类上的推广，目的是将多分类的结果以概率的形式展现出来。下图展示了softmax的计算方法： 下面为大家解释一下为什么softmax是这种形式。 首先，我们知道概率有两个性质：1 ...
分类：
其他好文 时间：
2020-05-02 10:04:13
阅读次数：
290
本文讲解 skip-gram 模型以及优化和扩展。主要包括层次 Softmax、负采样、学习短语的表示。 先提一下词向量： 词向量（也叫词嵌入，word embedding），简单地说就是用一个低维向量表示一个词。由于独热编码（one-hot encoding）存在维度灾难，即稀疏性，且无法理解词与 ...
分类：
其他好文 时间：
2020-04-30 21:26:52
阅读次数：
67
一张验证码图片直接做整体识别 也就是图片的最后输出节点有4*26=104个，经过一个softmax，使用交叉熵损失，与真实值4*26=104个标签做计算，然后反向传播 104个onehot编码真实值当中，每26个编码里会有一个正例1其余25个为零，4个26个编码里有4个值为1，其余和图片分类一样 意 ...
分类：
其他好文 时间：
2020-04-29 00:46:34
阅读次数：
108
