码迷,mamicode.com
首页 > 其他好文 > 详细

机器学习框架Tensorflow数字识别MNIST

时间:2017-09-22 17:41:30      阅读:224      评论:0      收藏:0      [点我收藏+]

标签:最大   维度   gis   cross   serve   func   回顾   ros   dff   

SoftMax回归  http://ufldl.stanford.edu/wiki/index.php/Softmax%E5%9B%9E%E5%BD%92

我们的训练集由 技术分享 个已标记的样本构成:技术分享 ,其中输入特征技术分享。(我们对符号的约定如下:特征向量 技术分享 的维度为 技术分享,其中 技术分享 对应截距项 。) 由于 logistic 回归是针对二分类问题的,因此类标记 技术分享。假设函数(hypothesis function) 如下:

技术分享


我们将训练模型参数 技术分享,使其能够最小化代价函数 :

技术分享


在 softmax回归中,我们解决的是多分类问题(相对于 logistic 回归解决的二分类问题),类标 技术分享 可以取 技术分享 个不同的值(而不是 2 个)。因此,对于训练集 技术分享,我们有 技术分享。(注意此处的类别下标从 1 开始,而不是 0)。例如,在 MNIST 数字识别任务中,我们有 技术分享 个不同的类别。


对于给定的测试输入 技术分享,我们想用假设函数针对每一个类别j估算出概率值 技术分享。也就是说,我们想估计 技术分享 的每一种分类结果出现的概率。因此,我们的假设函数将要输出一个 技术分享 维的向量(向量元素的和为1)来表示这 技术分享 个估计的概率值。 具体地说,我们的假设函数 技术分享 形式如下:

技术分享


其中 技术分享 是模型的参数。请注意 技术分享这一项对概率分布进行归一化,使得所有概率之和为 1 。


为了方便起见,我们同样使用符号 技术分享 来表示全部的模型参数。在实现Softmax回归时,将 技术分享 用一个 技术分享 的矩阵来表示会很方便,该矩阵是将 技术分享 按行罗列起来得到的,如下所示:

技术分享

 

代价函数

现在我们来介绍 softmax 回归算法的代价函数。在下面的公式中,技术分享 是示性函数,其取值规则为:

技术分享值为真的表达式 技术分享, 技术分享 值为假的表达式 技术分享。举例来说,表达式 技术分享 的值为1 ,技术分享的值为 0。我们的代价函数为:

技术分享


值得注意的是,上述公式是logistic回归代价函数的推广。logistic回归代价函数可以改为:

技术分享


可以看到,Softmax代价函数与logistic 代价函数在形式上非常类似,只是在Softmax损失函数中对类标记的 技术分享 个可能值进行了累加。注意在Softmax回归中将 技术分享 分类为类别 技术分享 的概率为:

技术分享.


对于 技术分享 的最小化问题,目前还没有闭式解法。因此,我们使用迭代的优化算法(例如梯度下降法,或 L-BFGS)。经过求导,我们得到梯度公式如下:

技术分享


让我们来回顾一下符号 "技术分享" 的含义。技术分享 本身是一个向量,它的第 技术分享 个元素 技术分享 是 技术分享技术分享 的第 技术分享 个分量的偏导数。


有了上面的偏导数公式以后,我们就可以将它代入到梯度下降法等算法中,来最小化 技术分享。 例如,在梯度下降法的标准实现中,每一次迭代需要进行如下更新: 技术分享(技术分享)。

当实现 softmax 回归算法时, 我们通常会使用上述代价函数的一个改进版本。具体来说,就是和权重衰减(weight decay)一起使用。我们接下来介绍使用它的动机和细节。

 

Softmax回归模型参数化的特点

Softmax 回归有一个不寻常的特点:它有一个“冗余”的参数集。为了便于阐述这一特点,假设我们从参数向量 技术分享 中减去了向量 技术分享,这时,每一个 技术分享 都变成了 技术分享(技术分享)。此时假设函数变成了以下的式子:

技术分享


换句话说,从 技术分享 中减去 技术分享 完全不影响假设函数的预测结果!这表明前面的 softmax 回归模型中存在冗余的参数。更正式一点来说, Softmax 模型被过度参数化了。对于任意一个用于拟合数据的假设函数,可以求出多组参数值,这些参数得到的是完全相同的假设函数 技术分享


进一步而言,如果参数 技术分享 是代价函数 技术分享 的极小值点,那么 技术分享 同样也是它的极小值点,其中 技术分享 可以为任意向量。因此使 技术分享 最小化的解不是唯一的。(有趣的是,由于 技术分享 仍然是一个凸函数,因此梯度下降时不会遇到局部最优解的问题。但是 Hessian 矩阵是奇异的/不可逆的,这会直接导致采用牛顿法优化就遇到数值计算的问题)


注意,当 技术分享 时,我们总是可以将 技术分享替换为技术分享(即替换为全零向量),并且这种变换不会影响假设函数。因此我们可以去掉参数向量 技术分享 (或者其他 技术分享 中的任意一个)而不影响假设函数的表达能力。实际上,与其优化全部的 技术分享 个参数 技术分享 (其中 技术分享),我们可以令 技术分享,只优化剩余的 技术分享 个参数,这样算法依然能够正常工作。


在实际应用中,为了使算法实现更简单清楚,往往保留所有参数 技术分享,而不任意地将某一参数设置为 0。但此时我们需要对代价函数做一个改动:加入权重衰减。权重衰减可以解决 softmax 回归的参数冗余所带来的数值问题。

 

权重衰减

我们通过添加一个权重衰减项 技术分享 来修改代价函数,这个衰减项会惩罚过大的参数值,现在我们的代价函数变为:

技术分享


有了这个权重衰减项以后 (技术分享),代价函数就变成了严格的凸函数,这样就可以保证得到唯一的解了。 此时的 Hessian矩阵变为可逆矩阵,并且因为技术分享是凸函数,梯度下降法和 L-BFGS 等算法可以保证收敛到全局最优解。


为了使用优化算法,我们需要求得这个新函数 技术分享 的导数,如下:

技术分享


通过最小化 技术分享,我们就能实现一个可用的 softmax 回归模型。

 

Softmax回归与Logistic 回归的关系

当类别数 技术分享 时,softmax 回归退化为 logistic 回归。这表明 softmax 回归是 logistic 回归的一般形式。具体地说,当 技术分享 时,softmax 回归的假设函数为:

技术分享


利用softmax回归参数冗余的特点,我们令 技术分享,并且从两个参数向量中都减去向量 技术分享,得到:

技术分享


因此,用 技术分享来表示技术分享,我们就会发现 softmax 回归器预测其中一个类别的概率为 技术分享,另一个类别概率的为 技术分享,这与 logistic回归是一致的。

input_data代码

# Copyright 2015 The TensorFlow Authors. All Rights Reserved.
#
# Licensed under the Apache License, Version 2.0 (the "License");
# you may not use this file except in compliance with the License.
# You may obtain a copy of the License at
#
#     http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing, software
# distributed under the License is distributed on an "AS IS" BASIS,
# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
# See the License for the specific language governing permissions and
# limitations under the License.
# ==============================================================================

"""Functions for downloading and reading MNIST data."""
from __future__ import absolute_import
from __future__ import division
from __future__ import print_function

import gzip
import os
import tempfile

import numpy
from six.moves import urllib
from six.moves import xrange  # pylint: disable=redefined-builtin
import tensorflow as tf
from tensorflow.contrib.learn.python.learn.datasets.mnist import read_data_sets

 

TensorFlow代码:

# coding:utf-8
import input_data
import tensorflow as tf
mnist = input_data.read_data_sets("Image/", one_hot=True)
x=tf.placeholder(tf.float32,[None,784]) #创建存储样本的表
W=tf.Variable(tf.zeros([784,10])) #创建变换矩阵W
b=tf.Variable(tf.zeros([10])) #创建偏置常量b
#学习的是W与b
y=tf.nn.softmax(tf.matmul(x,W)+b)#设置好模型放入softmax回归函数中
y_=tf.placeholder("float",[None,10])#用于存储真是的数据标签
#利用交叉熵作为coastFunction
cross_entropy=-tf.reduce_sum(y_*tf.log(y))
#利用梯度下降方法最小化coastFunction
train_step=tf.train.GradientDescentOptimizer(0.01).minimize(cross_entropy)
#初始化所有变量
init=tf.global_variables_initializer()
sess=tf.Session()
sess.run(init)
for i in range(1000):
    #每次随机抓取100个数据点进行训练
    bach_xs,bach_ys=mnist.train.next_batch(100)
    sess.run(train_step,feed_dict={x:bach_xs,y_:bach_ys})
#训练结束
#计算精度
#tf.equal 该函数计算矩阵对应元素相等 返回对比结果返回布尔值  argmax返回最大值的索引
correct_prediction=tf.equal(tf.argmax(y,1),tf.argmax(y_,1))
#tf.cast把布尔转化为float
accuracy=tf.reduce_mean(tf.cast(correct_prediction,"float"))
#输出结果
print sess.run(accuracy,feed_dict={x:mnist.test.images,y_:mnist.test.labels})

 

机器学习框架Tensorflow数字识别MNIST

标签:最大   维度   gis   cross   serve   func   回顾   ros   dff   

原文地址:http://www.cnblogs.com/zhaiyansheng/p/7571647.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!