线性回归之梯度下降法 1.梯度的概念 梯度是一个向量，对于一个多元函数$f$而言，$f$在点$P(x,y)$的梯度是$f$在点$P$处增大最快的方向，即以f在P上的偏导数为分量的向量。以二元函数$f(x,y)$为例，向量$\{\frac{\partial f}{\partial x},\frac{\ ...
分类：
编程语言 时间：
2019-11-07 23:24:10
阅读次数：
112
线性回归 决定系数越接近一那么预测效果越好 对于多元线性回归和一元线性回归推导理论是一致的，只不过参数是多个参数而已 梯度下降 梯度下降法存在局部最小值 <!--StartFragment --> 太小迭代次数多，太大将无法迭代到最优质 <!--StartFragment --> 梯度下降发容易到达 ...
分类：
其他好文 时间：
2019-10-30 00:04:12
阅读次数：
200
[TOC]更新、更全的《机器学习》的更新网站，更有python、go、数据结构与算法、爬虫、人工智能教学等着你：https://www.cnblogs.com/nickchen121/# 多元线性回归(波士顿房价预测)# 一、导入模块```pythonimport pandas as pdimpor... ...
分类：
其他好文 时间：
2019-10-16 18:02:10
阅读次数：
69
数据分析是指采用恰当的统计分析方法对收集来的大量数据进行分析，提取出有用信息同时形成结论，即对数据加以详细研究和概括总结的过程。数据分析需要掌握数学知识和分析工具，数学知识包含统计学、概率论和数理统计、多元统计分析、时间序列、数据挖掘；工具一般应该掌握Excel、SQL、R、Python等。需要学习掌握基本数据处理及分析方法，掌握高级数据分析及数据挖掘方法（多元线性回归法，贝叶斯，神经网络，决策树
分类：
其他好文 时间：
2019-08-18 09:29:25
阅读次数：
99
多项式回归 [TOC] 直线回归研究的是一个依变量与一个自变量之间的回归问题。 研究一个因变量与一个或多个自变量间多项式的回归分析方法，称为多项式回归（Polynomial Regression）多项式回归模型是线性回归模型的一种。 多项式回归问题可以通过变量转换化为多元线性回归问题来解决。 一、多 ...
分类：
其他好文 时间：
2019-08-11 00:25:05
阅读次数：
91
十，专著研读（线性回归） 分类问题输出离散型变量，回归输出连续型变量。 线性回归 简单线性回归一元线性回归及其一元线性方程 $y=b+\omega x$ 写成矩阵形式 $y=X^{T}\omega$ 多元线性回归多元线性方程 $ y=\omega _{0}+\omega _{1}x_{1}+\ome ...
分类：
其他好文 时间：
2019-08-01 21:24:06
阅读次数：
144
矩阵求导 在看多元线性回归的闭式解的时候遇到矩阵求导问题，总体来讲矩阵求导与函数求导有极大的相似性，查看wiki后记录下矩阵求导的一些性质，方面日后查看。 用到比较多的公式如下(分母布局)： $$ \frac{\partial \boldsymbol A\boldsymbol x}{\partial ...
分类：
其他好文 时间：
2019-07-23 23:53:53
阅读次数：
194
当变量中有分类型的变量的时候，需要将分类型的变量转换成数值型的变量。例如：比如某衣服有一个颜色特征，特征值为红、绿、蓝三种颜色，该特征为分类型特征，需要把它转化成数值型特征，则把这个衣服颜色需要分为三个特征，分别是红色、绿色、蓝色，则红色衣服对应的特征值为1，0，0；绿色衣服对应的特征值为0，1，0 ...
分类：
其他好文 时间：
2019-06-25 13:25:50
阅读次数：
101
第十九节逻辑回归之优化点(4) 上一节中我们讲解了逻辑回归导函数求解的问题，一步步推导出交叉熵损失函数的梯度。很是不容易，这节中我们一起看下逻辑回归的优化有哪些点？ 第一点关于逻辑回归优化：和多元性回归是一模一样。要不要设置w0？比如下图： ? 之前说多元性回归是做拟合，假如现在要分类的话，我们知道 ...
分类：
其他好文 时间：
2019-05-01 12:06:11
阅读次数：
150
接上回, 这次做了一个多元线性回归 这里贴一下代码 ...
分类：
其他好文 时间：
2019-03-14 15:18:36
阅读次数：
502
