1、回归算法分类算法的目标值是标称型数据，而回归的目标变量是连续型数据，主要包括线性回归，岭回归，lasso回归，前向逐步回归。2、线性回归线性回归主要用于处理线性数据，结果易于理解，计算复杂度不高，但是处理不了非线性数据。线性回归用最适直线(回归线)去建立因变量Y和一个或多个自变量X之间的关系。可以用公式来表示：Y=wX+b。其中w为权重，也称为回归系数，b为偏置顶。3、理解线性回归线性回归从高
分类：
其他好文 时间：
2019-01-29 18:32:15
阅读次数：
236
参考资料 台湾大学 《机器学习基石》视频 Ng 《机器学习》视频 周志华《机器学习》 "线性回归原理小结" "Lasso回归算法： 坐标轴下降法与最小角回归法小结" [TOC] 写作提纲 1. 基础线性回归模型&损失函数 2. 优化方法（极小化损失函数） 1. 最小二乘法 OLS 代数法解法 矩阵法 ...
分类：
其他好文 时间：
2019-01-26 22:40:43
阅读次数：
270
如何学习Python 最近开始整理python的资料，会陆续放到博客中存档。找了几个qq群，其中有一个群 "78486745（点击进群）" 。后面就没怎么加群了，还是需要看官方文档为主 python语言基础：（带你熟悉python语言的特性，学会使用python开发环境，使用python开发一些简单 ...
分类：
编程语言 时间：
2019-01-24 21:50:11
阅读次数：
227
1.对某些线性回归问题，正规方程给出了更好的解决方法，来求得参数θ，截止到目前我们一直使用线性回归算法是梯度下降法，为了最小化代价函数J(θ)，我们使用梯度下降多次迭代，来收敛得到全局的最小值。与此相反的正规方程提供了一种求θ的解析方法，我们不需要再去运用迭代的方法，而是可以直接一次性的求解θ最优值 ...
分类：
其他好文 时间：
2019-01-22 17:27:53
阅读次数：
181
1.用梯度下降算法来训练或者学习训练集上的参数w和b，如下所示，第一行是logistic回归算法，第二行是成本函数J，它被定义为1/m的损失函数之和，损失函数可以衡量你的算法的效果，每一个训练样例都输出y，把它和基本真值标签y进行比较 右边展示了完整的公式，成本函数衡量了参数w和b在训练集上的效果。 ...
分类：
其他好文 时间：
2019-01-21 22:49:14
阅读次数：
190
Spark MLlib中分类和回归算法： -分类算法： pyspark.mllib.classification -朴素贝叶斯 NaiveBayes -支持向量机（优化：随机梯度下降）SVMWithSGD -逻辑回归 LogisticRegressionWithSGD // 从Spark 2.0开始 ...
分类：
编程语言 时间：
2019-01-16 19:48:26
阅读次数：
293
概述 监督学习指的是训练样本包含标记信息的学习任务，例如：常见的分类与回归算法； 无监督学习则是训练样本不包含标记信息的学习任务，例如：聚类算法。 在实际生活中，常常会出现一部分样本有标记和较多样本无标记的情形，例如：做网页推荐时需要让用户标记出感兴趣的网页，但是少有用户愿意花时间来提供标记。若直接 ...
分类：
其他好文 时间：
2019-01-16 13:03:28
阅读次数：
319
Contents KNN算法简介 算法实现 总结 KNN算法简介 k近邻算法（k-nearest neighbor）是一种基本的分类、回归算法。 算法的基本思想是“物以类聚”。也就是说，物体周边事物的类别可以在某种程度上反应该物体的类别。例如，可以通过了解你身边最亲密的几个朋友来了解你的性格；又或者 ...
分类：
编程语言 时间：
2019-01-15 22:32:25
阅读次数：
362
梯度下降： 对theta1， theta2， theta3 分别求最快梯度下降的方向，然后根据给定的学习率，进行theta1， theta2， theta3的参数跟新 假定目标函数 J(theta) = 1/2m * np.sum(h(theta) - y)^2 / len(X) 梯度下降的策略分为 ...
分类：
编程语言 时间：
2019-01-12 18:33:05
阅读次数：
202
数据：工资和年龄（2个特征） 目标：预测银行会贷款多少钱(标签) 考虑： 工资和年龄影响银行贷款，它们各自的影响大小（参数） x1， x2 表示的是两个特征（年龄， 工资） y 是银行最终会借我们多少钱 找到一条最合适线（一些高维点）来最好拟合我们的数据点 假设theta1是年龄的参数， theta ...
分类：
编程语言 时间：
2019-01-12 18:01:40
阅读次数：
237
