我们可以讨论分类问题,忽略y是离散值这一事实,并使用我们的旧线性回归算法来预测y给定x。然而,很容易构造例子,这种方法表现很差。直观地说,也没有道理当h(θ)(x)取值大于1或小于0时,我们知道,Y∈{ 0, 1 }。为了解决这个问题,让我们改变我们的假设H(θ)(x)满足0≤h(θ)(x)≤1。这 ...
分类:
其他好文 时间:
2017-07-23 18:04:32
阅读次数:
116
机器学习入门之四:机器学习的方法--SVM(支持向量机)(转载) ...
分类:
其他好文 时间:
2017-07-18 15:44:05
阅读次数:
165
函数名称均为sklearn库中的函数 1.线性回归算法:LinearRegression: 其中常用的有:Ridge:岭回归算法,MultiTaskLasso:多任务LASSO回归算法,ElasticNet:弹性网眼算法,LassoLars:LARS套索算法,OrthogonalMatchingPu ...
分类:
编程语言 时间:
2017-07-17 22:04:28
阅读次数:
695
本文主要解说局部加权(线性)回归。在解说局部加权线性回归之前,先解说两个概念:欠拟合、过拟合。由此引出局部加权线性回归算法。 欠拟合、过拟合 例如以下图中三个拟合模型。第一个是一个线性模型。对训练数据拟合不够好,损失函数取值较大。如图中第二个模型,假设我们在线性模型上加一个新特征项,拟合结果就会好一 ...
分类:
其他好文 时间:
2017-06-23 14:17:27
阅读次数:
164
保序回归即给定了一个无序的数字序列,通过修改其中元素的值,得到一个非递减的数字序列,要求是使得误差(预测值和实际值差的平方)最小。比如在动物身上实验某种药物,使用了不同的剂量,按理说剂量越大,有效的比例就应该越高,但是如果发现了剂量大反而有效率降低了,这个时候就只有把无序的两个元素合并了,重新计算有 ...
分类:
编程语言 时间:
2017-06-15 19:40:28
阅读次数:
493
1.数学定义 保序回归是回归算法的一种,基本思想是:给定一个有限的实数集合,训练一个模型来最小化下列方程: 并且满足下列约束条件: 2.算法过程说明 从该序列的首元素往后观察,一旦出现乱序现象停止该轮观察,从该乱序元素开始逐个吸收元素组成一个序列,直到该序列所有元素的平均值小于或等于下一个待吸收的元 ...
分类:
编程语言 时间:
2017-06-15 10:24:35
阅读次数:
964
本讲内容 1. Generative learning algorithms(生成学习算法) 2. GDA(高斯判别分析) 3. Naive Bayes(朴素贝叶斯) 4. Laplace Smoothing(拉普拉斯平滑) 1.生成学习算法与判别学习算法 判别学习算法:直接学习 或者学习一个假设 ...
分类:
编程语言 时间:
2017-06-03 16:17:16
阅读次数:
209
SparkMLlib回归算法之决策树 (一),决策树概念 1,决策树算法(ID3,C4.5 ,CART)之间的比较: 1,ID3算法在选择根节点和各内部节点中的分支属性时,采用信息增益作为评价标准。信息增益的缺点是倾向于选择取值较多的属性,在有些情况下这类属性可能不会提供太多有价值的信息。 2 ID ...
分类:
编程语言 时间:
2017-05-24 17:07:43
阅读次数:
344
SparkMLlib学习分类算法之逻辑回归算法 (一),逻辑回归算法的概念(参考网址:http://blog.csdn.net/sinat_33761963/article/details/51693836) 逻辑回归与线性回归类似,但它不属于回归分析家族(主要为二分类),而属于分类家族,差异主要在 ...
分类:
编程语言 时间:
2017-05-20 17:21:28
阅读次数:
284
现实生活中有很多分类问题,比如正常邮件/垃圾邮件,良性肿瘤/恶性肿瘤,识别手写字等等,这些可以用逻辑回归算法来解决。 一、二分类问题 所谓二分类问题,即结果只有两类,Yes or No,这样结果{0,1}集合来表示y的取值范围。 前面说到过,线性回归的模型是 h(x)=θ0+θ1x1+θ2x2+.. ...
分类:
系统相关 时间:
2017-05-20 17:15:13
阅读次数:
300