码迷,mamicode.com
首页 > 编程语言 > 详细

梯度下降算法

时间:2015-05-04 01:15:00      阅读:270      评论:0      收藏:0      [点我收藏+]

标签:

首先定义几个符号:

Xi vector[X]:input data
Yi vector[Y]:output data
h(X)

hypothesis function

对于输入的数据给出预测值

 

 

 

 

 

Y is continous variation?regression problem(回归问题)

Y is discrete variation?classification problem(分类问题)

 

PART 1:线性回归

技术分享

如图,蓝色的离散点是Xi,红色的线就是求出的回归函数。

hypothesis function:

定义:技术分享

为了简化,规定X0=1,那么

技术分享

其中Θi我们称之为该函数的weight

 

Q:如何判断hypothesis func的好坏?(换句话说,how close the hypothesis value to the precise value)

A:定义一个cost function

技术分享

使得cost function取到最小的一组weight(Θ)就是我们要的那一组。

那么怎么求出我们想要的Θ呢?go on~

 

PART2:梯度下降算法、随机梯度下降算法

 

 

梯度下降算法

标签:

原文地址:http://www.cnblogs.com/pdev/p/4475118.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!