再谈多项式回归，本节再次提及多项式回归分析，理解过拟合现象，并深入cross-validation(交叉验证),regularization(正则化)框架，来避免产生过拟合现象，从更加深入的角度探讨理论基础以及基于R如何将理想照进现实。...
分类：
编程语言 时间：
2015-04-10 18:10:29
阅读次数：
354
Shooting算法是Wenjiang提出的一种优化Lasso(L1 Regularization)和Bridge Regression的算法, 本文以Lasso为例.对于线性回归问题$\mathbb{y}=X\mathbb{\beta}+\epsilon$, 普通最小二乘法(OLS, ordina...
分类：
其他好文 时间：
2015-04-06 15:39:06
阅读次数：
175
本文是《Neural networks and deep learning》概览 中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程，网络在training data上的error渐渐减小，但是在验证集上...
分类：
其他好文 时间：
2015-03-14 18:32:59
阅读次数：
63684
under review as a conference paper at ICLR 2015.Motivation：本文提出来一种regularization的方法，叫做FaMe (Factored Mean training). The proposed FaMe model aims to a...
分类：
Web程序 时间：
2015-03-10 18:58:58
阅读次数：
186
http://blog.csdn.net/pipisorry/article/details/43884027
机器学习Machine Learning - Andrew NG
courses学习笔记
The Problem of Overfitting
Cost Function
Regularized Linear Regression
R...
分类：
系统相关 时间：
2015-02-27 13:38:19
阅读次数：
177
课程简介 :
主要介绍了 RBF 模型及其与最近邻算法、神经网络、Kernel Method 的比较。最后介绍了 RBF 模型的 regularization 问题。...
分类：
其他好文 时间：
2015-01-21 16:37:38
阅读次数：
248
【转载】规则化和模型选择（Regularization and model selection）
分类：
其他好文 时间：
2015-01-16 13:01:05
阅读次数：
217
正则化（Regularization）、归一化（也有称为正规化/标准化，Normalization）是对数据尽心预处理的方式，他们的目的都是为了让数据更便于我们的计算或获得更加泛化的结果，但并不改变问题的本质，下面对他们的作用分别做一下科普，如有不正确之处，求指正！前言需要注意的是，这些名词在不同的...
分类：
其他好文 时间：
2014-12-12 16:10:41
阅读次数：
1243
