尽管有些内容还是不懂，先截取的摘录。1.变量选择问题：从普通线性回归到lasso 使用最小二乘法拟合的普通线性回归是数据建模的基本方法。其建模要点在于误差项一般要求独立同分布（常假定为正态）零均值。t检验用来检验拟合的模型系数的显著性，F检验用来检验模型的显著性（方差分析）。如果正态性不成立，...
分类：
其他好文 时间：
2015-11-08 19:25:44
阅读次数：
1650
1、附加题：推导线性最小二乘法过程 上述式子求解b 时最后一步用到求和性质，事实上 同理可证分子部分，具体请参考《计量经济学导论（第四版）Introductory Econometrics A Modern Approach Fourth Edition · 杰...
分类：
其他好文 时间：
2015-10-20 22:56:49
阅读次数：
1514
Basis(基础)：MSE(Mean Square Error 均方误差)，LMS(LeastMean Square 最小均方)，LSM(Least Square Methods 最小二乘法)，MLE(MaximumLikelihood Estimation最大似然估计)，QP(Quadratic ...
分类：
其他好文 时间：
2015-10-11 00:28:07
阅读次数：
243
几个常见问题： 1、为什么损失函数采用最小二乘法，而不是绝对值形式，也不采用最小三乘法？关于这个问题的答案，后面的课程会给出，主要是从最大似然函数角度给出的合理化解释，如果你追问，最大似然函数就代表科...
分类：
其他好文 时间：
2015-10-09 20:05:28
阅读次数：
526
角速率最大值------陀螺测量范围灵敏度 --------最小能分辨的角速度封装误差----------芯片封装的时候歪了一点点非线性度----------刻度因子--输入输出进行最小二乘法拟合后的直线斜率初始零偏误差-----零输入响应（可以直接补偿掉），本身理解为静态误差角度随机游走系数--....
分类：
其他好文 时间：
2015-09-13 11:39:44
阅读次数：
496
Basis(基础)：MSE(Mean Square Error 均方误差)，LMS(LeastMean Square 最小均方)，LSM(Least Square Methods 最小二乘法)，MLE(MaximumLikelihood Estimation最大似然估计)，QP(Quadratic ...
分类：
其他好文 时间：
2015-09-08 15:30:02
阅读次数：
249
1、最小二乘原理 参考资料： 1、http://blog.csdn.net/lotus___/article/details/20546259 2、http://blog.sina.com.cn/s/blog_5404ea4f0101afth.html2、matlab实现最小二乘法利用matl...
分类：
其他好文 时间：
2015-08-19 10:38:26
阅读次数：
546
线性回归中提到最小二乘损失函数及其相关知识。对于这一部分知识不清楚的同学可以参考上一篇文章《线性回归、梯度下降》。本篇文章主要讲解使用最小二乘法法构建损失函数和最小化损失函数的方法。
最小二乘法构建损失函数
最小二乘法也一种优化方法，用于求得目标函数的最优值。简单的说就是：让我们的预测值与真实值总的拟合误差（即总残差）达到最小。
在线性回归中使用最小二乘...
分类：
其他好文 时间：
2015-08-17 08:49:42
阅读次数：
690
本文主要分两个部分进行讨论，首先介绍最简单的线性回归模型；接着对逻辑回归进行分析1、线性回归-->最小二乘法对于线性回归问题，我们根据自变量的个数将其分为一元线性回归和多元线性回归，本部分先详细介绍一元线性模型，然后将其推广到多元线性模型1）一元线性模型当输入只有一个自变量时，我们称之为一元线性模型...
分类：
其他好文 时间：
2015-08-06 22:10:59
阅读次数：
226
1.原理在现实中经常遇到这样的问题，一个函数并不是以某个数学表达式的形式给出，而是以一些自变量与因变量的对应表给出，老师讲课的时候举的个例子是犯罪人的身高和留下的脚印长，可以测出一些人的数据然后得到一张表，它反应的是一个函数，回归的意思就是将它还原成数学表达式，这个式子也称为经验表达式，之所以叫经验...
分类：
其他好文 时间：
2015-08-06 10:48:55
阅读次数：
162
