局部加权回归( locally weighted regression ) 特征选择问题:underfitting,overfitting parametric learing algorithm:有固定数目的参数以用来数据拟合的算法; Non parametric learing algorith ...
分类:
其他好文 时间:
2020-01-29 18:23:37
阅读次数:
97
基本概念 对数几率回归(Logistic Regression,又称逻辑回归)可以用来解决二分类和多分类问题。分类问题中,输出集合不再是连续值,而是离散值,即$\mathcal{Y}\in \{0,1,2,\cdots\}$。以二分类问题为例,其输出集合一般为$\mathcal{Y}\in \{0, ...
分类:
其他好文 时间:
2020-01-23 21:23:06
阅读次数:
103
https://www.microsoft.com/en-us/research/uploads/prod/2019/04/regression_sigmod2019_CR.pdf ...
分类:
其他好文 时间:
2020-01-18 10:24:27
阅读次数:
95
本段代码可实现OLS法的线性回归分析,并可对回归系数做出分析 1.代码 %%OLS法下的线性回归 function prodict = Linear_Regression(X,Y) x = sym('x'); n = max(size(X)); %%定义画图窗格属性 h = figure; set( ...
分类:
其他好文 时间:
2020-01-16 18:34:05
阅读次数:
107
背景 学习 "Linear Regression in Python – Real Python" ,前面几篇文章分别讲了“regression怎么理解“,”线性回归怎么理解“,现在该是实现的时候了。 线性回归的 Python 实现:基本思路 导入 Python 包: 有哪些包推荐呢? :数据源 " ...
分类:
编程语言 时间:
2020-01-14 09:25:47
阅读次数:
129
背景 学习 "Linear Regression in Python – Real Python" ,对线性回归理论上的理解做个回顾,文章是前天读完,今天凭着记忆和理解写一遍,再回温更正。 线性回归(Linear Regression) 刚好今天听大妈讲机器学习,各种复杂高大上的算法,其背后都是在求 ...
分类:
编程语言 时间:
2020-01-09 00:40:01
阅读次数:
100
CART算法 原理 CART全称为Classification and Regression Tree。 回归树 相比ID3,CART遍历所有的特征和特征值,然后使用二元切分法划分数据子集,也就是每个节点都只会分裂2个分支。接着计算数据子集的总方差来度量数据子集的混乱程度,总方差越小数据子集越纯,最 ...
分类:
其他好文 时间:
2020-01-07 18:03:09
阅读次数:
183
背景 学习 "Linear Regression in Python – Real Python" ,对 regression 一词比较疑惑. 这个 linear Regression 中的 Regression 是什么意思,字面上 Regression 是衰退的意思,线性衰退?相信理解了这个词,对 ...
分类:
编程语言 时间:
2020-01-05 09:31:26
阅读次数:
132
一、Model Representation 还是以房价预测为例,一图胜千言: 表示一个从 到`y`的函数映射。 二、Cost Function 因为是单变量线性回归,所以假设函数是: $$h_{\theta}(x)=\theta_0+\theta_1x$$ 所以接下来的问题是怎样确定参数$\the ...
分类:
其他好文 时间:
2020-01-01 23:56:29
阅读次数:
131
一、Multiple Features 这节课主要引入了一些记号,假设现在有n个特征,那么: 为了便于用矩阵处理,令$x_0=1$: 参数$\theta$是一个 维的向量,任一个训练样本也是 维的向量,故对于每个训练样本:$h_\theta(x)=\theta^Tx$。 二、Gradient Dec ...
分类:
其他好文 时间:
2020-01-01 23:41:13
阅读次数:
59