处理过拟合的方法：1、去噪（数据清洗）；2、增加训练数据集（收集或构造新数据）3、正则化（L1、L2）4、减少特征数目5、对于决策树可以采用剪枝法6、采用组合分类器（装袋或随机森林）7、选择合适的迭代停止条件8、迭代过程中进行权值衰减（以某个小因子降低每个权值）
分类：
其他好文 时间：
2015-07-11 22:41:55
阅读次数：
478
主要分享了Coursera 机器学习相关课程材料，包括练习题与我的Matlab解答。 课程涉及技术：梯度下降、线性回归、监督/非监督学习、分类/逻辑回归、正则化、神经网络、梯度检验/数值计算、模型选择/诊断、学习曲线、评估度量、SVM、K-Means聚类、PCA、Map Reduce & Data ...
分类：
系统相关 时间：
2015-07-11 06:41:10
阅读次数：
442
关于ADMM的研究（一）最近在研究正则化框架如何应用在大数据平台上。找到了《Distributed Optimization and Statistical Learning via the Alternating Direction Method of Multipliers》这篇文章，感觉很适合...
分类：
其他好文 时间：
2015-07-09 21:16:22
阅读次数：
596
继上一篇基本最小二乘法和带部分空间约束的最小二乘法，它们要么易过拟合，要么不易求解，下面介绍 l2约束的最小二乘法，又叫正则化最小二乘法，岭回归。
一个模型的复杂程度与系数有关，最简单的模型是直接给所有系数赋值为0，则该模型总会预测出0值，模型虽然足够简单，但是没有意义，因为它不能有效预测。
定义模型的复杂度为：
由于我们的目的是使模型不要过于复杂，所以让上述值小是有意义的，因此新的目标...
分类：
其他好文 时间：
2015-07-06 12:25:59
阅读次数：
2146
正则化的提出，是因为要解决overfitting的问题。以Linear Regression为例：低次多项式拟合的效果可能会好于高次多项式拟合的效果。这里回顾上上节nonlinear transform的课件：上面的内容说的是，多项式拟合这种的假设空间，是nested hypothesis；因此，能...
分类：
其他好文 时间：
2015-06-30 21:36:17
阅读次数：
356
这一节讲的是正则化，在优化中一直会用到正则化项，上课的时候老师一句话代过，没有作过多的解释。听完这节课后，才明白好大学和野鸡大学的区别有多大。总之，这是很有收获的一节课。 首先介绍了为什么要正则化，简单说就是将复杂的模型用简单的模型进行表示，至于如何表示，这中间有一系列推导假设，很有创意。 ...
分类：
其他好文 时间：
2015-06-30 10:02:32
阅读次数：
150
机器学习中的正则化和范数规则化正则化和范数规则化文章安排：文章先介绍了正则化的定义，然后介绍其在机器学习中的规则化应用L0、L1、L2规则化范数和核范数规则化，最后介绍规则化项参数的选择问题。正则化(regularization)来源于线性代数理论中的不适定问题，求解不适定问题的普遍方法是:用一族与...
分类：
其他好文 时间：
2015-06-19 20:07:04
阅读次数：
2971
一、标准化（Z-Score），或者去除均值和方差缩放公式为：(X-mean)/std 计算时对每个属性/每列分别进行。将数据按期属性（按列进行）减去其均值，并处以其方差。得到的结果是，对于每个属性/每列来说所有数据都聚集在0附近，方差为1。实现时，有两种不同的方式：使用sklearn.preproc...
分类：
其他好文 时间：
2015-06-01 13:11:52
阅读次数：
153
在机器学习中，无论是分类还是回归，都可能存在由于特征过多而导致的过拟合问题。当然解决的办法有
（1）减少特征，留取最重要的特征。
（2）惩罚不重要的特征的权重。
但是通常情况下，我们不知道应该惩罚哪些特征的权重取值。通过正则化方法可以防止过拟合，提高泛化能力。
先来看看L2正则化方法。对于之前梯度下降讲到的损失函数来说，在代价函数后面加上一个正则化项，得到...
分类：
其他好文 时间：
2015-05-30 13:35:15
阅读次数：
183
用高阶变分模型进行脸部磨皮，可以有效去除皱纹和黑眼圈，让人年轻7岁。...
分类：
其他好文 时间：
2015-05-25 10:00:49
阅读次数：
277
