1. 线性回归 核心公式： w = (XTX)-1XTY 流程伪代码： 核心代码： 2. 局部加权线性回归 （就是中间乘上权值W) 核心公式： 参数w = (XTWX)-1XTWY 权值Wi = exp( ||xi - x|| / ( -2*k2) ) 流程伪代码： 核心代码： ...
分类：
其他好文 时间：
2019-10-08 15:58:18
阅读次数：
116
1. 线性回归 1.1 算法原理 （1）情景：给定一定数量的数据点，通过拟合得到其回归直线，使得所有点到这个直线的距离之和（损失函数）最小。 即：已知各个点的坐标，反求直线表达式的最优系数解。 假定直线参数为θ，则直线表达式为： 得到的直线（平面）表达式应使得损失函数最小，其中损失函数表达式： （2 ...
分类：
其他好文 时间：
2019-07-23 15:32:54
阅读次数：
113
1 线性回归的模型 线性回归的模型十分的简单，就是对回归问题中每一个特征X乘以一个系数，使其拟合到输出Y，线性回归模型就是找到这样一组系数。 线性回归的模型如下： 其中x是数据的特征，是一个d维的列向量，是权重系数，也是一个d维的列向量，y是模型的输出 2 线性回归的损失函数 在做回归问题的时候，模 ...
分类：
其他好文 时间：
2019-07-21 13:24:18
阅读次数：
78
一、介绍 何为线性回归？ 线性回归在假设特征满足线性关系，根据给定的训练数据训练一个模型，并用此模型进行预测。 在机器学习之前，获取数据是第一步，假定我们的样本如下：x1为房子的大小，x2为房子的价格，y为房子的销量。 二、模型的推导 为了推导模型，在假设数据满足线性模型的情况下，可以设定设定线性模 ...
分类：
其他好文 时间：
2019-07-21 12:02:34
阅读次数：
131
1、线性回归 回归的目的是预测数值型数据的目标值。目标值的计算是通过一个线性方程得到的，这个方程称为回归方程，各未知量（特征）前的系数为回归系数，求这些系数的过程就是回归。 对于普通线性回归使用的损失函数一般为平方误差。把其用最小二乘法进行优化得到的关于系数w求导所得到的矩阵形式的表达式求得的w便为 ...
分类：
其他好文 时间：
2019-06-23 16:10:10
阅读次数：
139
get_dummies 装箱 交互式特征 多项式特征 单一变量法 基于模型的特征选择 迭代式特征选择 ...
分类：
其他好文 时间：
2019-05-07 18:25:18
阅读次数：
237
来自：刘建平 逻辑回归是分类算法，可以处理二元分类和多元分类。 名字里有“回归”二字，但不是回归算法。为什么名字有“回归”这个误导词？因为它的原理有回归模型的影子。 1. 从线性回归到逻辑回归 线性回归模型是求Y和X之间的线性关系系数Θ，满足Y= XΘ。此时Y是连续的，所以是回归模型。 Y是离散的话 ...
分类：
其他好文 时间：
2019-03-10 20:55:39
阅读次数：
750
线性回归, 逻辑回归与神经网络公式相似点 + 线性回归与逻辑回归 线性回归的损失函数 $$ J(\theta)={1\over{2m}}\sum_{i=1}^{m}(h_\theta(x^{(i)}) y^{(i)})^2 $$ 逻辑回归的损失函数 $$ J(\theta)={ 1\over{m}} ...
分类：
其他好文 时间：
2019-03-03 18:50:12
阅读次数：
169
一、简单线性回归模型举例 汽车卖家做电视广告数量与卖出去的汽车数量： 1.1 列出适合简单线性回归模型的最佳回归线？ 使sum of squares最小 1.2 计算 1.3 预测 假设有一周的广告数为6.预测的汽车销售量为多少？ 代码： 结果： ...
分类：
其他好文 时间：
2019-02-28 23:12:09
阅读次数：
347
