1. Multiple features(多维特征) 在机器学习之单变量线性回归(Linear Regression with One Variable)我们提到过的线性回归中,我们只有一个单一特征量(变量)——房屋面积x。我们希望使用这个特征量来预测房子的价格。我们的假设在下图中用蓝线划出: 不妨...
分类:
其他好文 时间:
2014-10-27 22:46:14
阅读次数:
323
一种特定的非参数学习算法。也称作Loess。算法思想:假设对于一个确定的查询点x,在x处对你的假设h(x)求值。对于线性回归,步骤如下:1)拟合出,使最小2)返回对于局部加权回归,当要处理x时:1)检查数据集合,并且只考虑位于x周围的固定区域内的数据点2)对这个区域内的点做线性回归,拟合出一条直线3...
分类:
其他好文 时间:
2014-10-19 18:23:48
阅读次数:
284
这是分类算法。之前的回归问题尝试预测的变量y是连续变量,在这个分类算法中,变量y是离散的,y只取{0,1}两个值。一般这种离散二值分类问题用线性回归效果不好。比如x3,y=1,那么当x>3的样本占得比例很大是,线性回归的直线斜率就会越来越小,y=0.5时对应的x判决点就会比3大,造成预测错误。若y取...
分类:
其他好文 时间:
2014-10-19 18:21:19
阅读次数:
179
参数学习算法(parametric learning algorithm)定义:参数学习算法是一类有固定数目参数,以用来进行数据拟合的算法。设该固定的参数集合为。线性回归即使参数学习算法的一个例子非参数学习算法(Non-parametric learning algorithm)定义:一个参数数量会...
分类:
编程语言 时间:
2014-10-19 17:03:18
阅读次数:
483
本文主要讲解在matlab中实现Linear Regression和Logistic Regression的代码,并不涉及公式推导。具体的计算公式和推导,相关的机器学习文章和视频一大堆,推荐看Andrew NG的公开课。一、线性回归(Linear Regression)方法一、利用公式 :funct...
分类:
其他好文 时间:
2014-10-18 03:00:32
阅读次数:
357
回归: 在数学上来说是给定一个点集,能够用一条曲线去拟合之,如果这个曲线是一条直线,那就被称为线性回归,如果曲线是一条二次曲线,就被称为二次回归,回归还有很多的变种,如locally weighted回归,logistic回归,等等。训练集(training set)或者训练数据(traini...
分类:
其他好文 时间:
2014-10-16 00:42:01
阅读次数:
165
回归与梯度下降:回归在数学上来说是给定一个点集,能够用一条曲线去拟合之,如果这个曲线是一条直线,那就被称为线性回归,如果曲线是一条二次曲线,就被称为二次回归,回归还有很多的变种,如locally weighted回归,logistic回归,等等,这个将在后面去讲。用一个很简单的例子来说明回归,这个例...
分类:
其他好文 时间:
2014-10-16 00:32:31
阅读次数:
401
支持向量机和神经网络都可以用来做非线性回归拟合,但它们的原理是不相同的,支持向量机基于结构风险最小化理论,普遍认为其泛化能力要比神经网络的强。大量仿真证实,支持向量机的泛化能力强于神经网络,而且能避免神经网络的固有缺陷——训练结果不稳定。本源码可以用于线性回归、非线性回归、非线性函数拟合、数据建.....
分类:
其他好文 时间:
2014-10-14 18:17:59
阅读次数:
227
参考:http://blog.csdn.net/dongtingzhizi/article/details/159627971.简述 在线性回归中,h函数的输出值为连续值,当需要进行归类时,输出的应该是离散值,如何将连续值转换成离散值? 如果分类结果只有两个,用1,0表示。我们希望有:函数1/(1+...
分类:
编程语言 时间:
2014-10-13 19:41:28
阅读次数:
198
1. 模型表达(Model Representation) 我们的第一个学习算法是线性回归算法,让我们通过一个例子来开始。这个例子用来预测住房价格,我们使用一个数据集,该数据集包含俄勒冈州波特兰市的住房价格。在这里,我要根据不同房屋尺寸所售出的价格,画出我的数据集: 我们来看这个数据集,如果你有一个...
分类:
其他好文 时间:
2014-10-12 07:16:57
阅读次数:
337