机器学习九大算法 回归 转自:http://blog.csdn.net/xiaohai1232/article/details/59551240 回归分析即,量化因变量受自变量影响的大小,建立线性回归方程或者非线性回归方程,从而达对因变量的预测,或者对因变量的解释作用。 回归分析流程如下: ①探索性 ...
分类:
编程语言 时间:
2018-08-06 13:45:47
阅读次数:
245
最优化理论里面 0阶优化算法 1阶优化算法 2阶优化算法 具体定义和缺陷如下:针对深度学习以一阶的优化算法为主为主线 0阶优化算法:该算法仅仅需要因变量的数值,而不需要导数信息。因变量通过最小二乘法的拟合值近似,而约束极小化问题用罚函数转化为无约束问题,极小化过程在近似的罚函数上迭代。直到获得收敛的 ...
分类:
编程语言 时间:
2018-08-04 23:19:26
阅读次数:
190
详解 Kaggle 房价预测竞赛优胜方案:用 Python 进行全面数据探索 方法框架: 理解问题:查看每个变量并且根据他们的意义和对问题的重要性进行哲学分析。 单因素研究:只关注因变量( SalePrice),并且进行更深入的了解。 多因素研究:分析因变量和自变量之间的关系。 基础清洗:清洗数据集 ...
分类:
其他好文 时间:
2018-06-25 16:49:40
阅读次数:
336
适用因变量一般有1和0(是否)两种取值,表示取值为1的概率. 采用随机逻辑回归剔除自变量(剔除false),逻辑回归的本质还是一种线型模型,被筛选掉的变量不一定就跟结果没关系,可能存在非线型相关. ...
分类:
其他好文 时间:
2018-06-07 15:33:05
阅读次数:
560
一、一些基本概念 最优化:在给定约束之下如何寻求某些因素(的量),以使某一(或某些)指标达到最优。高中学过的线性规划就是一类典型的最优化问题。 凸集:在集合空间中,凸集就是一个向四周凸起的图形。用数学语句描述就是:集合边界任意两点连线上的所有点都在这个集合内部。 超平面:能够用于切割已给集合的点集。 ...
分类:
编程语言 时间:
2018-06-05 11:30:51
阅读次数:
201
Logistic回归虽然名字叫”回归” ,但却是一种分类学习方法。使用场景大概有两个:第一用来预测,第二寻找因变量的影响因素。逻辑回归(Logistic Regression, LR)又称为逻辑回归分析,是分类和预测算法中的一种。通过历史数据的表现对未来结果发生的概率进行预测。例如,我们可以将购买的 ...
分类:
编程语言 时间:
2018-05-30 22:50:22
阅读次数:
343
线性回归 线性回归通常用于根据连续变量估计实际数值(房价、呼叫次数、总销售额等)。我们通过拟合最佳直线来建立自变量和因变量的关系。这条最佳直线叫做回归线,并且用 Y= a *X + b 这条线性等式来表示。 在这个等式中: Y:因变量 a:斜率 x:自变量 b :截距 系数 a 和 b 可以通过最小 ...
分类:
其他好文 时间:
2018-05-24 11:59:02
阅读次数:
163
1、函数 ⑴、函数的定义:如果当变量x在其变化范围内任意取定一个数值时,量y按照一定的法则f总有确定的数值与它对应,则称y是x的函数。变量x的变化范围叫做这个函数的定义域。通常x叫做自变量,y叫做函数值(或因变量),变量y的变化范围叫做这个函数的值域。注:为了表明y是x的函数,我们用记号y=f(x) ...
分类:
其他好文 时间:
2018-05-09 00:03:51
阅读次数:
169
1)线性回归要求变量服从正态分布,logistic回归对变量分布没有要求。 2)线性回归要求因变量是连续性数值变量,而logistic回归要求因变量是分类型变量。 3)线性回归要求自变量和因变量呈线性关系,而logistic回归不要求自变量和因变量呈线性关系 4)logistic回归是分析因变量取某 ...
分类:
其他好文 时间:
2018-04-30 14:32:23
阅读次数:
184
一、线性回归算法的简介 线性回归是利用数理统计中回归分析,来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法,运用十分广泛。其表达形式为y = w'x+e,e为误差服从均值为0的正态分布。 回归分析中,只包括一个自变量和一个因变量,且二者的关系可用一条直线近似表示,这种回归分析称为一元线 ...
分类:
编程语言 时间:
2018-04-29 22:05:37
阅读次数:
242