在样本数据集(xn,tn)中，tn不是简单的离散值，而是连续值。如在线性回归中，预测房价的问题。与线性回归类似，目标函数是正则平方误差函数：
在SVM回归算法中，目的是训练出超平面y=wTx+b，采用yn=wTxn+b作为预测值。为了获得稀疏解，即计算超平面参数w,b不依靠所用样本数据，而是部分数据（如在SVM分类算法中，支持向量的定义），采用??insensitive 误差函数–Vapnik,1...
分类：
其他好文 时间：
2016-04-12 11:13:09
阅读次数：
218
感谢博临天下，笔记太好，我就直接搬过来再添加了。http://www.cnblogs.com/fanyabo/p/4060498.html 一、引言 本材料参考Andrew Ng大神的机器学习课程 http://cs229.stanford.edu，以及斯坦福无监督学习UFLDL tutorial ...
分类：
编程语言 时间：
2016-04-10 21:24:23
阅读次数：
499
本笔记为Coursera在线课程《Machine Learning》中的单变量线性回归章节的笔记。
2.1 模型表示
参考视频: 2 - 1 - Model Representation (8 min).mkv
本课程讲解的第一个算法为"回归算法"，本节将要讲解到底什么是Model。下面，以一个房屋交易问题为例开始讲解，如下图所示（从中可以看到监督学习的基本流程）。
所使用的数据集为...
分类：
系统相关 时间：
2016-04-01 18:22:42
阅读次数：
210
在计算机视觉的应用中，经常会用到提取一条直线的精确位置这样的工作。这时就要用到直线的拟合算法了。这里，我也贴一个利用最小二乘法计算最佳拟合直线的代码。这个代码是我以前学习《机器视觉算法与应用（双语版）》[德] 斯蒂格（Steger C） 著；杨少荣 等 译 的书时写的。所有的公式推导都在书中 3.8.1 ，还算比较有用。
与一元线性回归算法的区别：一元线性回归算法假定 X 是无误差的，只有 Y...
分类：
编程语言 时间：
2016-03-12 19:59:48
阅读次数：
504
azure Machine learing studio 使用示例之 - 使用线性回归算法完成预测评估...
分类：
编程语言 时间：
2016-02-24 09:43:02
阅读次数：
184
在应用机器学习算法时，我们通常采用梯度下降法来对采用的算法进行训练。其实，常用的梯度下降法还具体包含有三种不同的形式，它们也各自有着不同的优缺点。 下面我们以线性回归算法来对三种梯度下降法进行比较。 一般线性回归函数的假设函数为：$h_{\theta}=\sum_{j=0}^{n}\thet...
分类：
系统相关 时间：
2015-12-30 21:39:13
阅读次数：
368
机器学习和数据挖掘推荐书单有了这些书，再也不愁下了班没妹纸该咋办了。慢慢来，认真学，揭开机器学习和数据挖掘这一神秘的面纱吧！《机器学习实战》：本书第一部分主要介绍机器学习基础，以及如何利用算法进行分类，并逐步介绍了多种经典的监督学习算法，如k近邻算法、朴素贝叶斯算法、Logistic回归算法、支持向...
分类：
其他好文 时间：
2015-10-24 18:59:08
阅读次数：
248
/**
?*?简单线性回归算法
?*?@param?array?y轴数据
?*?@param?array?x轴数据
?*?@returns?array(slope,intercept,r2)
?*/
function?linearRegression(y,?x)?{
????var?lr?=?{};
????...
分类：
编程语言 时间：
2015-08-30 23:38:02
阅读次数：
236
本文主要讲解局部加权(线性)回归。在讲解局部加权线性回归之前，先讲解两个概念：欠拟合、过拟合，由此引出局部加权线性回归算法。
欠拟合、过拟合
如下图中三个拟合模型。第一个是一个线性模型，对训练数据拟合不够好，损失函数取值较大。如图中第二个模型，如果我们在线性模型上加一个新特征项，拟合结果就会好一些。图中第三个是一个包含5阶多项式的模型，对训练数据几乎完美拟合。
...
分类：
其他好文 时间：
2015-08-17 08:48:14
阅读次数：
183
本笔记为吴恩达机器学习在线课程笔记，课程网址（https://www.coursera.org/learn/machine-learning/）2.1 模型表示参考视频: 2 - 1 - Model Representation (8 min).mkv 本课程讲解的第一个算法为"回归算法"，本节将要...
分类：
其他好文 时间：
2015-08-06 20:16:29
阅读次数：
227
