引子 对于一个特征数比较大的非线性分类问题,如果采用先前的回归算法,需要很多相关量和高阶量作为输入,算法的时间复杂度就会很大,还有可能会产生过拟合问题,如下图: 这时就可以选择采用神经网络算法。 神经网络算法最早是人们希望模仿大脑的学习功能而想出来的。 一个神经元,有多个树突(Dendrite)作为 ...
分类:
Web程序 时间:
2017-12-03 21:47:44
阅读次数:
292
上篇介绍了TensorFlow基本概念和基本操作,本文将利用TensorFlow举例实现线性回归模型过程。 线性回归算法 线性回归算法是机器学习中典型监督学习算法,不同于分类算法,线性回归的输出是整个实数空间R(故也可用线性回归做分类)。关于线性回归网络资料很多,算法具体推演不做叙述,这里简要概括基 ...
分类:
其他好文 时间:
2017-11-24 16:56:09
阅读次数:
188
1 Logistic 回归算法的原理 1.1 需要的数学基础 我在看机器学习实战时对其中的代码非常费解,说好的利用偏导数求最值怎么代码中没有体现啊,就一个简单的式子:θ= θ - α Σ [( hθ(x(i))-y(i) ) ] * xi 。经过查找资料才知道,书中省去了大量的理论推导过程,其中用到 ...
分类:
编程语言 时间:
2017-11-11 18:53:10
阅读次数:
293
转:http://www.cnblogs.com/liuwu265/p/4690486.html Bagging和Boosting都是将已有的分类或回归算法通过一定方式组合起来,形成一个性能更加强大的分类器,更准确的说这是一种分类算法的组装方法。即将弱分类器组装成强分类器的方法。 首先介绍Boots ...
分类:
其他好文 时间:
2017-10-26 13:37:34
阅读次数:
148
首先我们导入一组airplan.xlsx数据。数据表中的age表示年龄、FLIGHT_COUNT表示飞行次数、BASE_POINTS_SUM表示飞行里程、runoff_flag表示流失与否,定义1为正样本,代表已流失。现在让我们来看一下最后的效果:可以看到决策树算法和逻辑回归算法的准确率大致相同,但是决策树算..
分类:
编程语言 时间:
2017-10-16 12:11:37
阅读次数:
257
首先我们导入一组airplan.xlsx数据。 数据表中的age表示年龄、FLIGHT_COUNT表示飞行次数、BASE_POINTS_SUM表示飞行里程、runoff_flag表示流失与否,定义1为正样本,代表已流失。 现在让我们来看一下最后的效果: 可以看到决策树算法和逻辑回归算法的准确率大致相 ...
分类:
编程语言 时间:
2017-10-16 11:12:51
阅读次数:
1796
转自:https://zhuanlan.zhihu.com/p/25765735 在应用机器学习算法时,我们通常采用梯度下降法来对采用的算法进行训练。其实,常用的梯度下降法还具体包含有三种不同的形式,它们也各自有着不同的优缺点。 下面我们以线性回归算法来对三种梯度下降法进行比较。 一般线性回归函数的 ...
分类:
其他好文 时间:
2017-10-10 16:42:00
阅读次数:
174
转自穆晨 阅读目录 前言 回归树 回归树的优化工作 - 剪枝 模型树 回归树 / 模型树的使用 小结 转自穆晨 阅读目录 前言 回归树 回归树的优化工作 - 剪枝 模型树 回归树 / 模型树的使用 小结 回到顶部 前言 前文讨论的回归算法都是全局且针对线性问题的回归,即使是其中的局部加权线性回归法, ...
分类:
编程语言 时间:
2017-10-08 16:52:07
阅读次数:
367
线性回归假设 代价函数---均方误差 最小化样本内代价函数 只有满秩方阵才有逆矩阵 线性回归算法流程 线性回归算法是隐式迭代的 线性回归算法泛化可能的保证 线性分类是近似求解,线性回归是解析求解, 线性分类中使用0/1误差,线性回归中使用均方误差, 误差方面,线性分类能小于线性回归, 但线性回归速度 ...
分类:
其他好文 时间:
2017-10-08 12:13:19
阅读次数:
144
原文链接:http://www.cnblogs.com/jerrylead/archive/2011/03/05/1971867.html1 分类和logistic回归 一般来说,回归不用在分类问题上,因为回归是连续型模型,而且受噪声影响比较大。如果非要使用回归算法,可以使用logistic回归。 ... ...
分类:
其他好文 时间:
2017-10-02 19:45:04
阅读次数:
279