1 x = np.array([[1, 2,3,4,5],#共三3样本，有5个类别 2 [1, 2,3,4,5], 3 [1, 2,3,4,5]]).astype(np.float32) 4 y = np.array([1, 1, 0])#这3个样本的标签分别是1,1,0即两个是第2类，一个是第1类 ...
分类：
其他好文 时间：
2020-06-10 18:54:23
阅读次数：
706
https://wanghuaishi.wordpress.com/2017/02/21/%E5%9B%BE%E8%A7%A3%E6%9C%80%E5%A4%A7%E7%86%B5%E5%8E%9F%E7%90%86%EF%BC%88the-maximum-entropy-principle%EF% ...
分类：
其他好文 时间：
2020-05-31 21:42:52
阅读次数：
79
题目大意: 输入一行的字符串, 分别用8bit ASCII编码和Huffman编码, 求出编码后所占的空间以及压缩比(ASC/Huffman) 思路: 利用优先队列实现Huffman编码, 其中并不需要建树, 只需要求出每个字符出现的频数, 借助优先队列求出根节点的频次. Huffman编码的实现过 ...
分类：
其他好文 时间：
2020-05-18 12:46:40
阅读次数：
63
1 简介 逻辑斯谛回归(logistic regression)是统计学习中的经典分类方法。 最大嫡是概率模型学习的一个准则，将其推广到分类问题得到最大嫡模型(maximum entropy model )。 逻辑斯谛回归模型与最大嫡模型都属于对数线性模型。 2 模型 2.1 逻辑斯谛分布 2.2 ...
分类：
其他好文 时间：
2020-04-28 17:31:04
阅读次数：
56
我做的是一个识别验证码的深度学习模型，识别的图片如下 验证码图片识别4个数字，数字间是有顺序的，设立标签时设计了四个onehot向量链接起来，成了一个长度为40的向量，然后模型的输入也是40维向量用softmax_cross_entropy_with_logits(labels=,logits=)函 ...
分类：
其他好文 时间：
2020-04-20 16:15:30
阅读次数：
285
Future major versions of TensorFlow will allow gradients to flowinto the labels input on backprop by default. See @{tf.nn.softmax_cross_entropy_with_l ...
分类：
其他好文 时间：
2020-04-11 12:59:46
阅读次数：
124
Tensorflow中的交叉熵函数tensorflow中自带四种交叉熵函数，可以轻松的实现交叉熵的计算。 tf.nn.softmax_cross_entropy_with_logits() tf.nn.sparse_softmax_cross_entropy_with_logits() tf.nn. ...
分类：
其他好文 时间：
2020-04-05 15:23:50
阅读次数：
78
交叉熵（Cross-Entropy） 交叉熵是一个在ML领域经常会被提到的名词。在这篇文章里将对这个概念进行详细的分析。 1.什么是信息量？ 假设X的信息量为：I(x0)=?log(p(x0))时，熵将等于0，也就是说该事件的发生不会导致任何信息量的增加。举个例子，小明平时不爱学习，考试经常不及格， ...
分类：
其他好文 时间：
2020-03-31 14:11:35
阅读次数：
89
二次代价函数 $C = \frac{1} {2n} \sum_{x_1,...x_n} \|y(x)-a^L(x) \|^2$ 其中，C表示代价函数，x表示样本，y表示实际值，a表示输出值，n表示样本的总数；整个的意思就是把n个y-a的平方累加起来，再除以2求一下均值。 为简单起见，先看下 一个样本 ...
分类：
其他好文 时间：
2020-02-23 09:50:04
阅读次数：
230
