正则化（Regularization）、归一化（也有称为正规化/标准化，Normalization）是对数据尽心预处理的方式，他们的目的都是为了让数据更便于我们的计算或获得更加泛化的结果，但并不改变问题的本质，下面对他们的作用分别做一下科普，如有不正确之处，求指正！前言需要注意的是，这些名词在不同的...
分类：
其他好文 时间：
2014-12-12 16:10:41
阅读次数：
1243
本文基本按照《统计学习方法》中第一章的顺序来写，目录如下：1. 监督学习与非监督学习2. 统计学习三要素3.过拟合与正则化（L1、L2）4.交叉验证5. 泛化能力6. 生成模型与判别模型7. 机器学习主要问题8. 提问正文：1. 监督学习与非监督学习 从标注数据中学习知识的规律以及训练模型的方法叫....
分类：
其他好文 时间：
2014-11-16 21:18:33
阅读次数：
281
http://www.ics.uci.edu/~dramanan/teaching/ics273a_winter08/lectures/lecture14.pdf Loss Function
损失函数可以看做 误差部分(loss term) + 正则化部分(regularization term) ...
分类：
其他好文 时间：
2014-11-08 19:39:59
阅读次数：
331
在机器学习或者是模式识别当中有一种重要的分类器叫做：SVM 。这个被广泛的应用于各个领域。但是其计算的复杂度以及训练的速度是制约其在实时的计算机应用的主要原因。因此也很很多的算法被提出来，如SMO，Kernel的方法。
但是这里要提到的 Regularized
least-squares classification 是一个和他有着同样的效果的分类器。比较而言计算却比较的简单（We ...
分类：
其他好文 时间：
2014-10-16 16:55:33
阅读次数：
268
F有限元分析HHeun方法KKansa方法伽伽辽金法刚刚性方程努努梅罗夫方法奇奇异边界法快快速行进算法打打靶法欧欧拉方法正正则化无网格法瑞瑞利-里兹法蛙蛙跳积分法边边界粒子法边界节点法韦韦尔莱积分法龙龙格－库塔法
分类：
其他好文 时间：
2014-10-11 23:04:46
阅读次数：
282
正则化、归一化含义解析2012-12-29正则化（Regularization）、归一化（也有称为正规化/标准化，Normalization）是对数据尽心预处理的方式，他们的目的都是为了让数据更便于我们的计算或获得更加泛化的结果，但并不改变问题的本质，下面对他们的作用分别做一下科普，如有不正确之处，...
分类：
其他好文 时间：
2014-10-11 20:37:56
阅读次数：
207
在对数据进行拟合，学习模型的过程中，会出现以下情况：1）high variance, overfitting.过拟合2）high bias, underfiiting.欠拟合过拟合出现的原因1）太多的特征。2）过少的训练数据。如何解决？1）减少特征数2）模型选择算法（model selection ...
分类：
其他好文 时间：
2014-08-26 19:13:56
阅读次数：
310
本讲主要说一下逻辑回归中的几个问题和具体的参数求解方法
1. 什么是逻辑回归
2. 正则化项
3. 最小二乘法和最大似然法
4. java实现梯度下降法
实验：
样本：
-0.017612 14.053064 0
-1.395634 4.662541 1
-0.752157 6.538620 0
-1.322371 7.152853 0
0.423363 11.054677 0
0....
分类：
编程语言 时间：
2014-07-01 11:13:11
阅读次数：
386
博客安排1.PCA原理及其应用(两篇）2.线性规划问题3.正则化方法3.拉格朗日乘法算子4.SVM5.ICA原理6.聚类分析7.EM算法8.推荐系统9.SVD10.高斯分布
分类：
其他好文 时间：
2014-06-10 15:04:35
阅读次数：
270
