参考： L1 Norm Regularization and Sparsity Explained for Dummies 专为小白解释的文章，文笔十分之幽默 减少feature的数量可以防止over fitting，尤其是在特征比样本数多得多的情况下。 L1就二维而言是一个四边形（L1 norm ...
分类：
其他好文 时间：
2018-04-07 20:07:01
阅读次数：
119
本章主要介绍几种可替代普通最小二乘拟合的其他一些方法。 Why might we want to use another fitting procedure instead of least squares? better prediction accuracy（预测精度） and better m ...
分类：
其他好文 时间：
2018-03-06 20:23:57
阅读次数：
205
在机器学习中，我们非常关心模型的预测能力，即模型在新数据上的表现，而不希望过拟合现象的的发生，我们通常使用正则化（regularization）技术来防止过拟合情况。正则化是机器学习中通过显式的控制模型复杂度来避免模型过拟合、确保泛化能力的一种有效方式。如果将模型原始的假设空间比作“天空”，那么天空 ...
分类：
其他好文 时间：
2018-02-21 18:14:58
阅读次数：
362
仍旧不完全统计，边学边加 理论： Normalization Regularization 数据预处理 Normalization归一化 针对数据；Regularization正则化 针对代价函数 对internal covariate shift的解释 caffe: 模型描述中的各参数含义 sol ...
分类：
其他好文 时间：
2018-02-02 17:08:19
阅读次数：
139
六、逻辑回归(Logistic Regression) 6.1 分类问题 6.2 假说表示 6.3 判定边界 6.4 代价函数 6.5 简化的成本函数和梯度下降 6.6 高级优化 6.7 多类别分类：一对多 七、正则化(Regularization) 7.1 过拟合的问题 7.2 代价函数 7.3 ...
分类：
其他好文 时间：
2018-01-17 00:38:29
阅读次数：
198
算法正则化可以有效地防止过拟合, 但正则化跟算法的偏差和方差又有什么关系呢？下面主要讨论一下方差和偏差两者之间是如何相互影响的、以及和算法的正则化之间的相互关系 假如我们要对高阶的多项式进行拟合，为了防止过拟合现象，我们要使用图下所示的正则化。因此我们试图通过下面的正则化项，来让参数的值尽可能小。正 ...
分类：
移动开发 时间：
2018-01-13 18:42:30
阅读次数：
271
Tensorflow Welcome to the Tensorflow Tutorial! In this notebook you will learn all the basics of Tensorflow. You will implement useful functions and d ...
分类：
Web程序 时间：
2017-12-22 03:27:08
阅读次数：
266
【中文翻译】 2、每个 hyperparameter, 如果设置不佳, 会对训练产生巨大的负面影响, 所以所有的参数都同样重要, 可以很好地调整。真的还是假的？ 【中文翻译】 4、如果你认为β (hyperparameter 为动量) 在0.9 和0.99 之间, 以下是推荐的方法为 beta 的值 ...
分类：
Web程序 时间：
2017-12-22 00:32:25
阅读次数：
232
Master the process of hyperparameter tuning Master the process of hyperparameter tuning ...
分类：
Web程序 时间：
2017-12-21 23:09:49
阅读次数：
341
Optimization Welcome to the optimization's programming assignment of the hyper-parameters tuning specialization. There are many different optimization ...
分类：
Web程序 时间：
2017-12-19 12:36:36
阅读次数：
226
