全文转载自： softmax的log似然代价函数（公式求导） 在人工神经网络（ANN）中，Softmax通常被用作输出层的激活函数。这不仅是因为它的效果好，而且因为它使得ANN的输出值更易于理解。同时，softmax配合log似然代价函数，其训练效果也要比采用二次代价函数的方式好。 1. softm ...
分类：
其他好文 时间：
2017-11-10 18:39:44
阅读次数：
146
翻译自：https://stackoverflow.com/questions/34240703/whats-the-difference-between-softmax-and-softmax-cross-entropy-with-logits 问题： 在Tensorflow官方文档中，他们使用一 ...
分类：
其他好文 时间：
2017-11-04 20:44:25
阅读次数：
364
import tensorflow as tf import numpy as np #mnist数据输入from tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets('MNIS ...
分类：
其他好文 时间：
2017-10-30 15:59:20
阅读次数：
183
1、得分函数 线性分类器：在坐标系上就是一直线，大于它就是1，小于它就是0。 一张图假设是32*32*3的像素矩阵，首先把它平展为3072*1的向量，如果最后结果只能是10个类别。那么得分函数结果将是10*1的向量。w将是10*3072的矩阵，b是10*1的向量。 意思就是，这张图通过计算，属于这一 ...
分类：
其他好文 时间：
2017-10-28 22:36:38
阅读次数：
146
1. 理解 1.1 MNIST的每一张image图都对应一个label标签数字，从0到9。而softmax模型就是得到给定image图片代表每个数字的概率。 1.2 举例：假设一个label标签数字9对应的image图片通过softmax模型计算出该图片代表数字9的概率是80%，代表数字8的概率是5 ...
分类：
其他好文 时间：
2017-10-27 15:53:02
阅读次数：
160
最近在学习黄文坚的TensorFlow书籍，希望对学习做一个总结。 softmax regression算法原理：当我们对一张图片进行预测时，会计算每一个数字的可能性，如3的概率是3%，5的概率是6%，1的概率是80%，则返回1. TensorFlow版本：0.8.0 ...
分类：
编程语言 时间：
2017-10-27 01:19:28
阅读次数：
295
http://freemind.pluskid.org/machine-learning/softmax-vs-softmax-loss-numerical-stability/ ...
分类：
其他好文 时间：
2017-10-20 16:00:57
阅读次数：
165
前言在之前的关于回归问题的讨论中，笔者主要给出了一般原始的线性回归模型（主要以最小二乘法形式进行的）以及其它两种主流的线性回归模型的补充内容，它们主要是为了解决样本之间存在线性相关性的问题，包括岭回归和LASSO回归。一般而言，对于多分类问题，我们希望能将样本的..
分类：
其他好文 时间：
2017-10-17 12:40:19
阅读次数：
188
tensorboard可以将训练过程中的一些参数可视化，比如我们最关注的loss值和accuracy值，简单来说就是把这些值的变化记录在日志里，然后将日志里的这些数据可视化。 首先运行训练代码 注意我将训练日志保存在 /home/xxx/logs/ 路径下，打开终端，输入以下命令 tensorboa ...
分类：
其他好文 时间：
2017-10-09 15:27:10
阅读次数：
360
二次代价函数(quadratic cost): 其中,C表示代价函数,x表示样本,y表示实际值,a表示输出值,n表示样本的总数。为简单起见,使用一个样本为例进行说明,此时二次代价函数为: 假如我们使用梯度下降法(Gradient descent)来调整权值参数的大小,权值w和偏置b的梯度推导如下: ...
分类：
其他好文 时间：
2017-10-08 11:16:07
阅读次数：
1235
