整理代码时发现的老代码，略微整理发上来，理论知识我就不细说了，大意就是这条线是所有点到这条线的垂直距离最短。 至于我写的对不对就由各位自己分辨，如果我写错请告诉我. GIF截图 代码 /// <summary> /// 简单最小二乘法 /// </summary> /// <param name=" ...
一、监督学习 1、回归模型 1.1 线性回归模型 求解 最小二乘法 梯度下降法 2、分类模型 2.1 K近邻（KNN） 示例 KNN距离计算 KNN算法 2.2 逻辑斯蒂回归 逻辑斯蒂回归 —— 分类问题 Sigmoid函数（压缩函数） 逻辑斯谛回归损失函数 梯度下降法求解 2..3 决策树 示例 ...
分类：
其他好文 时间：
2021-02-10 12:54:48
阅读次数：
0
损失函数 总损失定义为： yi为第i个训练样本的真实值 h(xi)为第i个训练样本特征值组合预测函数 又称最小二乘法 正规方程 理解：X为特征值矩阵，y为目标值矩阵。直接求到最好的结果 缺点：当特征过多过复杂时，求解速度太慢并且得不到结果 其中y是真实值矩阵，X是特征值矩阵，w是权重矩阵 对其求解关 ...
分类：
其他好文 时间：
2021-01-25 11:38:16
阅读次数：
0
1、什么叫回归算法: 常见的回归算法有: 线性回归、Logistic回归、Softmax回归...... ① 回归算法属于一种有监督学习 ② 回归算法是一种比较常用的机器学习算法，用来建立自变量(x)与因变量(y)之间的关系；从机器学习的角度来讲，用于构建一个算法模型(函数)来做属性(x)与标签(y ...
分类：
编程语言 时间：
2020-09-03 16:55:20
阅读次数：
39
昨天实现了一个计算机函数的提取过程，不过就函数提取的公式而言，因为用的是sklearn提供的多元线性回归分析函数，其中有最小二乘法和梯度下降的模拟。 但是无论是上述的哪种函数的模拟，一旦针对一些相对而言比较复杂的多元非线性问题，就很有可能不能发挥出函数提取的功能了。要做到一种精度比较高的模拟图像识别 ...
分类：
其他好文 时间：
2020-07-29 10:04:19
阅读次数：
67
先说一下自己对于神经网络的理解 ###1、一元线性回归 首先说 一元线性回归 已知 x， y，通过算法探求 x->y 的规律，也就是计算 a，b的 值。 常用的算法 最小二乘法 ###2、多元线性回归 已知 x， y，通过算法探求 x->y 的规律，也就是计算 各个β，ε的 值。 常用的算法 最小二 ...
分类：
其他好文 时间：
2020-07-19 11:49:59
阅读次数：
71
1 orthonormal 向量与 Orthogonal 矩阵 orthonormal 向量定义为 ，任意向量 相互垂直，且模长为1； 如果将 orthonormal 向量按列组织成矩阵，矩阵为 Orthogonal 矩阵，满足如下性质： ； 当 为方阵时，为其逆矩阵；当 为长方形矩阵时，为其左逆； ...
分类：
其他好文 时间：
2020-07-13 18:45:47
阅读次数：
94
#!/usr/bin/env python import tensorflow as tf import numpy as np import matplotlib.pyplot as plt # Import MNIST data from tensorflow.examples.tutorial ...
分类：
其他好文 时间：
2020-06-26 16:25:26
阅读次数：
49
理解： 最小：理论值和观测值之差的平方和最小。 高斯于1823年在误差e1 ,… , en独立同分布的假定下,证明了最小二乘方法的一个最优性质: 在所有无偏的线性估计类中,最小二乘方法是其中方差最小的！ 现行的最小二乘法是勒让德( A. M. Legendre)于1805年在其著作《计算慧星轨道的新 ...
分类：
其他好文 时间：
2020-06-22 11:13:01
阅读次数：
57
1.移动最小二乘法介绍 为了更好地对数据量大且形状复杂的离散数据进行拟合，曾清红等人[1]开发出一种新的算法——移动最小二乘法。这种新的最小二乘算法为点云数据的处理提供了新的方法。使用点云数据拟合曲面时，由于点云的数据量大、形状复杂的特点，如果使用传统的最小二乘法拟合可能会得到病态的曲面方程，从而导 ...
分类：
移动开发 时间：
2020-06-14 12:42:27
阅读次数：
77
