算法正则化可以有效地防止过拟合, 但正则化跟算法的偏差和方差又有什么关系呢?下面主要讨论一下方差和偏差两者之间是如何相互影响的、以及和算法的正则化之间的相互关系 假如我们要对高阶的多项式进行拟合,为了防止过拟合现象,我们要使用图下所示的正则化。因此我们试图通过下面的正则化项,来让参数的值尽可能小。正 ...
分类:
移动开发 时间:
2018-01-13 18:42:30
阅读次数:
271
怎样评价我们的学习算法得到的假设以及如何防止过拟合和欠拟合的问题。 当我们确定学习算法的参数时,我们考虑的是选择参数来使训练误差最小化。有人认为,得到一个很小的训练误差一定是一件好事。但其实,仅仅是因为这个假设具有很小的训练误差,当将其样本量扩大时,会发现训练误差变大了,这说明它不是一个好的假设。比 ...
分类:
移动开发 时间:
2017-12-17 20:44:18
阅读次数:
200
假如我们在开发一个机器学习系统,想试着改进一个机器学习系统的性能,我们应该如何决定接下来应该选择哪条道路? 为了解释这一问题,以预测房价的学习例子。假如我们已经得到学习参数以后,要将我们的假设函数放到一组新的房屋样本上进行测试,这个时候我们会发现在预测房价时,产生了巨大的误差,现在我们的问题是要想改 ...
分类:
移动开发 时间:
2017-12-17 19:17:58
阅读次数:
207
使用神经网络来实现自动驾驶,也就是说使汽车通过学习来自己驾驶。 下图是通过神经网络学习实现自动驾驶的图例讲解: 左下角是汽车所看到的前方的路况图像。左上图,可以看到一条水平的菜单栏(数字4所指示方向),白亮的区段显示的就是人类驾驶者选择的方向。而最右端则对应向右急转的操作(箭头3),中心稍微向左一点 ...
分类:
Web程序 时间:
2017-12-17 16:56:46
阅读次数:
192
神经网络是在模仿大脑中的神经元或者神经网络时发明的。因此,要解释如何表示模型假设,我们先来看单个神经元在大脑中是什么样的。如下图,我们的大脑中充满了神经元,神经元是大脑中的细胞,其中有两点值得我们注意,一是神经元有细胞主体,二是神经元有一定数量的输入神经。这些输入神经叫做树突,可以把它们想象成输入电 ...
分类:
Web程序 时间:
2017-11-26 18:42:31
阅读次数:
229
如上图所示,如果用逻辑回归来解决这个问题,首先需要构造一个包含很多非线性项的逻辑回归函数g(x)。这里g仍是s型函数(即 )。我们能让函数包含很多像这的多项式,当多项式足够多时,那么你也许能够得到可以分开正样本和负样本的分界线,如图下粉红色分界线所示: 当只有两项时,比如x1、x2,这种方法能够得到 ...
分类:
Web程序 时间:
2017-10-22 00:08:10
阅读次数:
225
监督学习应用例子:以房屋大小和价格为例,本次采用47个样本。 m: training examples,训练样本集 x: "input",variables/features变量,x为输入变量,在本次例子中,表示房屋大小 y: "output", variable/"target" variable ...
分类:
其他好文 时间:
2017-05-07 18:31:26
阅读次数:
181
这是观看网易公开课 Mehran Sahami教授的《斯坦福大学公开课:编程方法学》后的随笔。 目前只看到第三次课,《Karel与Java》,我的收获有以下要点: 1.软件工程跟普通的写代码是不同的。软件应该考虑很多东西,比如:可移植性、便于升级维护等等,而不仅仅是写出代码实现功能那么简单。 2.代 ...
分类:
其他好文 时间:
2016-12-02 14:23:28
阅读次数:
143
继续学习公开课第二节课做了一个简单的计算器作为例子。大概Touch了如下知识点:讲解了XCode4,我看了一下最新下载的是XCode8了。XCode创建工程,singleViewApplication还是有的,界面对比起XCode4来,更简洁些了,操作跟视频讲解里的差不多。体会了下第一节课讲的MVCView的代..
分类:
移动开发 时间:
2016-11-05 23:50:12
阅读次数:
225
最近想学习下iOS的开发,在网易公开课上找了个课程,准备先听一下这个课程,做为入门吧。课程的名字是:斯坦福大学公开课:iPad和iPhone应用开发(iOS5)链接:http://open.163.com/special/opencourse/ipadandiphoneapplication.html今天听了第一课,大概讲了如下的内容:iOSove..
分类:
移动开发 时间:
2016-11-03 02:56:39
阅读次数:
256