线性回归的一个问题可能是有可能出现欠拟合（如下图所示样本），因为它求的是具有最小均方误差的无偏估计。如果模型欠拟合将不能取得最好的预测效果。所以有些方法允许在估计中引入一些偏差，从而降低预测的均方误差。其中的一个方法是局部加权线性回归。在该算法中，我们给待预测点附近的每一个点赋予一定的权重，在这个子 ...
分类：
其他好文 时间：
2020-09-24 22:13:45
阅读次数：
81
参考的一位大神的Blog，记录一下，便于以后复习。我是初学者，难免有许多错误的地方，恳请各位大神批评指正。 关于线性回归的理论，有很多优秀的课程（比如：吴恩达的机器学习课程）可供参考，这里直接进行代码实现，并对必要的地方进行解释。 1 import torch as tc #简写成tc便于编写代码 ...
分类：
其他好文 时间：
2020-09-17 18:10:13
阅读次数：
33
是新朋友吗？记得先点蓝字关注我哦～一、逻辑回归简介逻辑回归又称Logistic回归分析，是一种广义的线性回归分析模型，常用于数据挖掘、疾病自动诊断、经济预测等领域。逻辑回归从本质来说属于二分类问题。二分类问题是指预测的y值只有两个取值（0或1）。例如：一个垃圾邮件过滤系统，x是邮件的特征，预测的y值就是邮件的类别（是垃圾邮件还是正常邮件）。对于类别我们通常称为正类（positiveclass）和负
分类：
其他好文 时间：
2020-09-10 22:48:59
阅读次数：
45
1. 模型定义 将问题转化为数学公式建模 模型就是一个数学公式，例如 w表示权重，b表示偏差，yhat表示预测值≠标签 2. 模型训练 -- 调整最终参数的过程 1. 训练数据（训练集，样本，标签--真实值，特征--用来预测标签的因素x1,x2） 2. 损失函数（衡量标签（真实值）与预测值之间的误差 ...
分类：
其他好文 时间：
2020-09-08 21:06:31
阅读次数：
60
1、什么叫回归算法: 常见的回归算法有: 线性回归、Logistic回归、Softmax回归...... ① 回归算法属于一种有监督学习 ② 回归算法是一种比较常用的机器学习算法，用来建立自变量(x)与因变量(y)之间的关系；从机器学习的角度来讲，用于构建一个算法模型(函数)来做属性(x)与标签(y ...
分类：
编程语言 时间：
2020-09-03 16:55:20
阅读次数：
39
昨天实现了一个计算机函数的提取过程，不过就函数提取的公式而言，因为用的是sklearn提供的多元线性回归分析函数，其中有最小二乘法和梯度下降的模拟。 但是无论是上述的哪种函数的模拟，一旦针对一些相对而言比较复杂的多元非线性问题，就很有可能不能发挥出函数提取的功能了。要做到一种精度比较高的模拟图像识别 ...
分类：
其他好文 时间：
2020-07-29 10:04:19
阅读次数：
67
代码和其他资料在 github 一、tf.keras概述 首先利用tf.keras实现一个简单的线性回归，如 \(f(x) = ax + b\)，其中 \(x\) 代表学历，\(f(x)\) 代表收入，分别代表输入特征和输出值。为了描述预测目标与真实值之间的整体误差最小，需要定义一个损失函数，数学描 ...
分类：
其他好文 时间：
2020-07-26 15:25:59
阅读次数：
78
一、概述 假设有以下数据： $$D=\left {(x_{1},y_{1}),(x_{2},y_{2}),\cdots ,(x_,y_)\right }\ x_\in \mathbb,y_\in \mathbb,i=1,2,\cdots ,N\ X=(x_{1},x_{1},\cdots ,x_)= ...
分类：
其他好文 时间：
2020-07-22 20:54:34
阅读次数：
82
先说一下自己对于神经网络的理解 ###1、一元线性回归 首先说 一元线性回归 已知 x， y，通过算法探求 x->y 的规律，也就是计算 a，b的 值。 常用的算法 最小二乘法 ###2、多元线性回归 已知 x， y，通过算法探求 x->y 的规律，也就是计算 各个β，ε的 值。 常用的算法 最小二 ...
分类：
其他好文 时间：
2020-07-19 11:49:59
阅读次数：
71
#多变量线性回归(Linear Regression with Multiple Variables) ##4.1多维特征 多维特征就是有多个特征，比如房价模型中增加房子的楼层数等等，模型的特征为$\left( {x_{1}},{x_{2}},...,{x_} \right)$ \(n\) 代表特征 ...
分类：
其他好文 时间：
2020-07-17 22:17:36
阅读次数：
80
