最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。 考虑超定方程组（ ...
分类：
其他好文 时间：
2019-11-24 21:05:28
阅读次数：
64
最小二乘法拟合三维直线 eryar@163.com 在《高等数学》的书中给出了最小二乘法拟合直线的具体实例，但是那个例子是拟合二维直线的f(t)=at+b，那么三维直线怎么使用最小二乘法来拟合呢？我们先来看看《高等数学》书中的例子，由于任何实数的平方都是正数或零，因此我们可以考虑选取常数a, b，使 ...
分类：
其他好文 时间：
2019-11-21 14:22:53
阅读次数：
191
最小二乘法 最小二乘法可以更广泛地应用于非线性方程中，我们可以使用一些已知的离散的点，拟合出一条与这些离散点最为接近的曲线，从而可以分析出这些离散点的走向趋势。 设x和y之间的函数关系由直线方程： y=ax+b 公式中有两个待定参数，b代表截距，a代表斜率。问题在于，如何找到“最合适”的a和b使得尽 ...
分类：
其他好文 时间：
2019-11-13 00:27:46
阅读次数：
122
MATLAB实例：非线性曲线拟合 作者：凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/ 用最小二乘法拟合非线性曲线，给出两种方法：(1)指定非线性函数，(2)用傅里叶函数拟合曲线 1. MATLAB程序 2. 结果 Fig 1. Lennard-Jones势 ...
分类：
其他好文 时间：
2019-11-12 09:23:10
阅读次数：
86
线性回归之最小二乘法 1.最小二乘法的原理 最小二乘法的主要思想是通过确定未知参数$\theta$（通常是一个参数矩阵），来使得真实值和预测值的误差（也称残差）平方和最小，其计算公式为$E=\sum_{i=0}^ne_i^2=\sum_{i=1}^n(y_i \hat{y_i})$，其中$y_i$是 ...
分类：
其他好文 时间：
2019-11-07 23:10:55
阅读次数：
94
转：https://www.cnblogs.com/softlin/p/5965939.html 上篇文章中介绍了单变量线性回归，为什么说时单变量呢，因为它只有单个特征，其实在很多场景中只有单各特征时远远不够的，当存在多个特征时，我们再使用之前的方法来求特征系数时是非常麻烦的，需要一个特征系数一个偏 ...
分类：
其他好文 时间：
2019-11-05 00:39:20
阅读次数：
133
预期逻辑顺序： 最小二乘原理（大约一小段） 最小二乘历史由来， 最小二乘法公式形式（以一次函数为例） 最小二乘估计分析 最小二乘性质，特点 高斯分布 t分布 加入正则化的考量（Hilbert空间，kernel方法，表示定理） 拉普拉斯正则化最小二乘 以上大致框架，回头慢慢补细节 涉及知识，概率论数理 ...
分类：
其他好文 时间：
2019-10-26 01:11:22
阅读次数：
105
[TOC]更新、更全的《机器学习》的更新网站，更有python、go、数据结构与算法、爬虫、人工智能教学等着你：https://www.cnblogs.com/nickchen121/# 最小二乘法最小二乘法，可以理解为最小平方和，即误差的最小平方和，在线性回归中，$误差=真实值-预测值$。最小二乘... ...
分类：
其他好文 时间：
2019-10-16 17:49:14
阅读次数：
89
import org.apache.spark.mllib.recommendation.{ALS,MatrixFactorizationModel,Rating} ALS:最小二乘法求解矩阵分解问题的最优化方法。其实，就是补充二维矩阵中缺失的打分。 输入：显性数据-train,隐形数据-train ...
分类：
其他好文 时间：
2019-09-30 14:26:49
阅读次数：
90
最近看了一本线性代数，如下图这个样的。。。比较讨厌的是这本书的排版贼难受，定义和定理加粗基本和没加一样，排版也过于紧密，看起来一度想弃书。 重点不在这里，哈哈哈哈。 这几天看完线代后，有一个粗略的理解后，菜虽然菜，但我还是想要倒腾倒腾。想起之前学过的最小二乘法，不过是一个二阶的最小二乘法，也撸了代码 ...
分类：
其他好文 时间：
2019-09-30 12:59:45
阅读次数：
124
