本课内容: 1、线性回归 2、梯度下降 3、正规方程组 监督学习:告诉算法每个样本的正确答案,学习后的算法对新的输入也能输入正确的答案 1、线性回归 问题引入:假设有一房屋销售的数据如下: 引入通用符号: m =训练样本数 x =输入变量(特征) y =输出变量(目标变量) (x,y)—一个样本 i ...
分类:
其他好文 时间:
2016-04-21 01:16:14
阅读次数:
454
上一次我们分享了多变量线性回归模型(Linear Regression with Multiple Variables),这一次我们来讨论一下多项式回归(Polynomial Regression)
和正规方程(Normal Equation)。(我们还是讨论房价预测的问题)
多项式回归
有时候,线性回归并不适用于所有全部的数据,我们需要曲线来适应我们的数据,比如一个二次方模型:
...
分类:
其他好文 时间:
2016-04-19 19:46:31
阅读次数:
151
一、相关概念 1.梯度下降 由于Z= X*theta - y是列向量,所以Z'*Z就是平方和连加,就是2范数;如果Z是矩阵呢,那么Z'*Z的对角线就是Z矩阵每列的2范数。 2.正规方程(Normal Equation) θ = (XTX)-1XTY。二、代码实现2104,3,39990016...
分类:
其他好文 时间:
2015-10-27 21:49:29
阅读次数:
401
几个常见问题: 1、为什么损失函数采用最小二乘法,而不是绝对值形式,也不采用最小三乘法?关于这个问题的答案,后面的课程会给出,主要是从最大似然函数角度给出的合理化解释,如果你追问,最大似然函数就代表科...
分类:
其他好文 时间:
2015-10-09 20:05:28
阅读次数:
526
**************************************
注:本系列博客是博主学习Stanford大学 Andrew Ng 教授的《机器学习》课程笔记。博主深感学过课程后,不进行总结很容易遗忘,根据课程加上自己对不明白问题的补充遂有此系列博客。本系列博客包括线性回归、逻辑回归、神经网络、机器学习的应用和系统设计、支持向量机、聚类、将维、异常检测、推荐系统及大规模机器学习等内容...
分类:
其他好文 时间:
2015-08-09 12:35:38
阅读次数:
1496
【多变量线性回归模型】多变量线性回归是指输入为多维特征的情况,例如:
在上图中可看出房子的价格price由四个变量(size、number of bedrooms、number of floors 、age of home)决定,为了能够预测给定条件(四个变量)下的房子的价格(y),我们需要建立相应的线性回归模型。假设有n个变量,则相应的多变量线性回归模型如下:注意上图中的x是指一个训练样本,即每...
分类:
其他好文 时间:
2015-07-23 23:50:38
阅读次数:
337
简介
本篇继续进行机器学习,主要是使用opencv,用c语言实现机器学习之一元线性回归、正规方程法。
关于这部分的原理,可以参考:1、https://www.coursera.org/learn/machine-learning/home/info
2、http://blog.csdn.net/xiazdong/article/deta...
分类:
其他好文 时间:
2015-07-09 21:30:26
阅读次数:
226
分类模型如下: 回归问题:学习的结果是连续的,比如房价等等
分类问题:学习的结果是非连续的,分成某几个类
梯度下降例子:
:条件:
对于输入X有n个特征值。X = {x1,x2,x3,x4,.......,xnx_1, x_2, x_3, x_4, ....... ,x_n}
一共有m组输入。X1,X2,......,XmX_1, X_2, ...... , X_m
结果:
根据给出的数据得到函数...
分类:
其他好文 时间:
2015-06-20 17:06:49
阅读次数:
207
分类模型如下: 回归问题:学习的结果是连续的,比如房价等等
分类问题:学习的结果是非连续的,分成某几个类
回归问题(Regression)例子:
:条件:
对于输入X有n个特征值。X = {x1,x2,x3,x4,.......,xnx_1, x_2, x_3, x_4, ....... ,x_n}
一共有m组输入。X1,X2,......,XmX_1, X_2, ...... , X_m
结果:...
分类:
其他好文 时间:
2015-06-19 10:40:03
阅读次数:
180
监督学习应用与梯度下降本课内容:1、线性回归2、梯度下降3、正规方程组(复习)监督学习:告诉算法每个样本的正确答案,学习后的算法对新的输入也能输入正确的答案1、线性回归例:Alvin汽车,先让人开车,Alvin摄像头观看(训练),而后实现自动驾驶。本质是一个回归问题,汽车尝试预测行驶方向。例:上一节...
分类:
其他好文 时间:
2015-04-10 19:46:58
阅读次数:
135