码迷,mamicode.com
首页 > 其他好文 > 详细

最小二乘法

时间:2014-06-01 13:57:53      阅读:206      评论:0      收藏:0      [点我收藏+]

标签:c   style   blog   a   http   strong   

最小二乘法又叫做最小平方法,是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。

 

通常情况下最小二乘法用于求回归问题。以简单的线性最小二乘为例,二维平面上给定bubuko.com,布布扣个点的坐标,确定一条直线,

要求大致符合这bubuko.com,布布扣个点的走向。

 

我们可以设这条直线的方程为bubuko.com,布布扣,那么就要使bubuko.com,布布扣bubuko.com,布布扣处的函数值与给定的bubuko.com,布布扣bubuko.com,布布扣

差达到最小,也就是说,要确定bubuko.com,布布扣的值,使得

 

          bubuko.com,布布扣

 

最小。根据这种方法求bubuko.com,布布扣的值就是典型的最小二乘法。

 

可以看出bubuko.com,布布扣bubuko.com,布布扣的一个二元函数,要求bubuko.com,布布扣的最小值,那么求偏导,有

 

         bubuko.com,布布扣

 

进一步得到

 

         bubuko.com,布布扣

 

然后联立两式可以解出bubuko.com,布布扣,如果方程数比较多,我们可以用高斯消元法来做。另外,最小二乘法的解是唯一的

 

 

 

其它典型问题

 

问题:在一个平面直角坐标系中给定bubuko.com,布布扣个点,找出一条直线bubuko.com,布布扣,要求这些点到这条直线距离的平方和

     最小,求出这条直线的方程。

 

问题:在一个三维空间中给定bubuko.com,布布扣个点,求一过原点的平面bubuko.com,布布扣,使得这些点到这个平面的距离的平方和

     最小,求出这个平面的方程。(2014年编程之美复赛)

 

 

 

 

最小二乘法,布布扣,bubuko.com

最小二乘法

标签:c   style   blog   a   http   strong   

原文地址:http://blog.csdn.net/acdreamers/article/details/27836947

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!