判别模型(discriminative) vs生成模型(generative) 逻辑回归算法简单,对特征工程的要求就非常高。必须做特征归一化,否则各特征重要程度不一。 http://www.cnblogs.com/maybe2030/p/6336896.html ...
分类:
其他好文 时间:
2018-07-22 23:38:47
阅读次数:
229
No.1. 线性回归算法的特点 No.2. 分类问题与回归问题的区别 上图中,左侧为分类问题,右侧为回归问题。左侧图中,横轴和纵轴表示的都是样本的特征,用不同的颜色来作为输出标记,表示不同的种类;左侧图中,只有横轴表示的是样本特征,纵轴用来作为输出标记,这是因为回归问题所预测的是一个连续的数值,无法 ...
分类:
其他好文 时间:
2018-07-19 17:32:49
阅读次数:
1194
逻辑回归的基本过程:a建立回归或者分类模型 >b 建立代价函数 > c 优化方法迭代求出最优的模型参数 >d 验证求解模型的好坏。 1.逻辑回归模型: 逻辑回归(Logistic Regression):既可以看做是回归算法,也可以看做是分类算法。通常作为分类算法,一般用于解决二分类问题。 线性回归 ...
分类:
其他好文 时间:
2018-07-19 13:38:19
阅读次数:
232
本文就对Boosting家族中另一个重要的算法梯度提升树(Gradient Boosting Decison Tree, 以下简称GBDT)做一个总结。GBDT有很多简称,有GBT(Gradient Boosting Tree), GTB(Gradient Tree Boosting ), GBRT ...
分类:
其他好文 时间:
2018-07-15 21:12:02
阅读次数:
267
逻辑回归(Logistic Regression) 一、行业算法应用率 具统计,2017年,除了军事和安全领域,逻辑回归算法是在其它所有行业使用最多了一种机器学习算法; Logistic Regression(逻辑回归) Decision Trees(决策树) Random Forests(随机森林 ...
分类:
其他好文 时间:
2018-07-15 12:04:52
阅读次数:
231
梯度下降是一个用来求函数最小值的算法,我们将使用梯度下降算法来求出代价函数 J(θ0,θ1) 的最小值。 梯度下降背后的思想是:开始时我们随机选择一个参数的组合(θ0,θ1,...,θn),计算代价 函数,然后我们寻找下一个能让代价函数值下降最多的参数组合。我们持续这么做直到到到 一个局部最小值(l ...
分类:
编程语言 时间:
2018-07-13 01:17:19
阅读次数:
211
在应用机器学习算法时,我们通常采用梯度下降法来对采用的算法进行训练。其实,常用的梯度下降法还具体包含有三种不同的形式,它们也各自有着不同的优缺点。 下面我们以线性回归算法来对三种梯度下降法进行比较。 一般线性回归函数的假设函数为: 对应的损失函数为: 下图为一个二维参数(θ0和θ1)组对应能量函数的 ...
分类:
其他好文 时间:
2018-07-11 14:47:25
阅读次数:
190
Logistic回归算法调试 一、算法原理 Logistic回归算法是一种优化算法,主要用用于只有两种标签的分类问题。其原理为对一些数据点用一条直线去拟合,对数据集进行划分。从广义上来讲这也是一种多元线性回归方法,所不同的是这种算法需要找出的是能够最大可能地将两个类别划分开来而不是根据直线关系预测因 ...
分类:
编程语言 时间:
2018-07-11 00:57:31
阅读次数:
164
1 线性回归算法 http://www.cnblogs.com/wangxin37/p/8297988.html 回归一词指的是,我们根据之前的数据预测出一个准确的输出值,对于这个例子就是价格,同时,还有另一种最常见的监督学习方式,叫做分类问题,当我们想要预测离散的输出值,例如,我们正在寻找癌症肿瘤 ...
分类:
编程语言 时间:
2018-06-27 11:27:27
阅读次数:
161
读完python数据分析与挖掘实战,对于监督学习、非监督学习这两个概念算是明白了,这里总结下三个方向算法的优缺和使用场景 1、回归算法 回归算法是对一种数值型连续变量进行预测和建模的监督学习算法,运用在股票走势,房价走势预测上,每一个样本都有标注真值进行监督算法 1.1 线性回归 适用条件:线性回归 ...
分类:
其他好文 时间:
2018-06-20 21:17:42
阅读次数:
2877