1. 偏差和方差平衡在线性回归中，对于同一个数据集，可以拟合出简单的线性模型或者较为复杂一些的多项式例如：图中的训练样本是一致的，但是可以拟合出不同的模型。最右边图中拟合出的5阶多项式，并不见得就是一个好模型，虽然该模型能够准确预测出样本点的y值,因为这种模型过分拟合了训练样本（过拟合），当对非训练...
分类：
其他好文 时间：
2014-10-12 01:39:27
阅读次数：
272
1分别使用岭回归和Lasso解决薛毅书第279页例6.10的回归问题例6.10的问题如下：输入例题中的数据，生成数据集,并做简单线性回归，查看效果cement<-data.frame(X1=c(7,1,11,11,7,11,3,1,2,21,1,11,10),X2=c(26,29,56,31,52,55,71,31,54,47,40,66,68),X3=c(6,15,8,8,6,9,17,22,..
分类：
其他好文 时间：
2014-10-10 16:41:54
阅读次数：
33313
课程简介：
主要内容包括对线性分类及线性回归分析的简单回顾，以及对逻辑回归分析，误差测定与算法三方面的详细讲解，同时对非线性变换的泛化方法进行了剖析....
分类：
其他好文 时间：
2014-10-08 00:16:14
阅读次数：
365
首先，我们引入分类问题，其实分类问题和回归问题很相似，只是分类问题中我们要预测的y值是有限数量的离散值，而不是回归问题中的连续值。为了说明，我们现在只讨论二分类问题，也就是说y只能取0和1两种值。对于这种二分类问题，当然也可以用线性回归去学习，然后根据给的的x预测出y,只是当预测出的y大于1或者小于...
分类：
其他好文 时间：
2014-10-07 01:00:32
阅读次数：
296
考虑下图所示数据集：这是一个关于居住面积，卧室数量和房屋价格的数据集。对于这个数据集，x就是二维的向量，因为每一个训练样本包含两个属性（居住面积，卧室数量）。为了进行监督学习，必须提出一个合理的假设或函数，假如我们用线性函数去近似y（对于上述数据集y就是房屋的价格），xi(i = 1,2,...m)...
分类：
其他好文 时间：
2014-10-06 23:15:50
阅读次数：
287
对于数据ex2Data.zip，学习出一个函数h(x)，使之能较好地预测出y的值。其中x表示孩子的年龄，y表示孩子的身高。首先画出原始数据在坐标轴中的分布情况：x = load('ex2x.dat'); y = load('ex2y.dat');m = length(y); %计算出训练样本的个数%...
分类：
其他好文 时间：
2014-10-06 13:55:20
阅读次数：
334
假设有以下面积和房屋价格的数据集：可以在坐标中画出数据的情况：就是基于这样一个数据集，假定给出一个房屋的面积，如何预测出它的价格？很显然就是我们只需建立一个关于房屋面积的函数，输出就是房屋的价格。所以引出监督学习的概念：给定训练集X，学习出一个函数h:X→Y,使得函数h(x)能够较好地对于Y做出预测...
分类：
其他好文 时间：
2014-10-06 12:53:50
阅读次数：
229
由于最近在学习standford大学 Andrew Ng 大牛的机器学习视频，所以想对所学的方法做一个总结，后面所要讲到的算法主要是视频里面学到的机器学习领域常用的算法。在文中我们所要学的的算法主要有Linear Regression（线性回归），gradient descent（梯度下降法），n....
分类：
其他好文 时间：
2014-09-29 12:47:20
阅读次数：
254
由于最近在学习standford大学 Andrew Ng 大牛的机器学习视频，所以想对所学的方法做一个总结，后面所要讲到的算法主要是视频里面学到的机器学习领域常用的算法。在文中我们所要学的的算法主要有Linear Regression（线性回归），gradient descent（梯度下降法），no...
分类：
其他好文 时间：
2014-09-28 22:59:05
阅读次数：
234
本讲主要说下逻辑回归的相关问题和详细的实现方法1. 什么是逻辑回归逻辑回归是线性回归的一种，那么什么是回归，什么是线性回归回归指的是公式已知，对公式中的未知參数进行预计，注意公式必须是已知的，否则是没有办法进行回归的线性回归指的是回归中的公式是一次的，比如z=ax+by逻辑回归事实上就是在线性回归的...
分类：
编程语言 时间：
2014-09-26 18:15:58
阅读次数：
2507
