预测模型为何无法保持稳定？ 让我们通过以下几幅图来理解这个问题： 此处我们试图找到尺寸（size）和价格（price）的关系。三个模型各自做了如下工作： 在应用中，一个常见的做法是对多个模型进行迭代，从中选择表现更好的。然而，最终的分数是否会有改善依然未知，因为我们不知道这个模型是更好的发掘潜在关系 ...
分类：
其他好文 时间：
2017-02-08 22:53:08
阅读次数：
355
继续上节内容介绍学习理论，介绍模型选择算法，大纲内容为： 交叉验证 特征选择 回顾上节的偏差方差权衡现象，若选择过于简单的模型，偏差过高，可能会导致欠拟合；若选择过于复杂的模型，方差过高，可能会导致过拟合，同样模型的一般适用性不好。 模型复杂度：多项式的次数或参数的个数。 （1）尝试选择多项式的次数 ...
分类：
其他好文 时间：
2017-01-12 22:29:19
阅读次数：
246
首先说交叉验证。交叉验证（Cross validation）是一种评估统计分析、机器学习算法对独立于训练数据的数据集的泛化能力（generalize）， 能够避免过拟合问题。交叉验证一般要尽量满足：1）训练集的比例要足够多，一般大于一半2）训练集和测试集要均匀抽样 交叉验证主要分成以下几类：1）Do ...
分类：
其他好文 时间：
2016-12-23 14:25:18
阅读次数：
220
上一篇理解了JVM类加载过程的第一个阶段，这篇来说说剩下的阶段：验证、准备、解析、初始化。需要注意的是，这些阶段（解析除外）只是按照这个顺序开始，但是执行的过程中可能存在交叉。 验证：就是要对加载的二进制流文件进行各种检查，很好理解。 准备：为类变量（static）分配内存并设置初始值，即所谓的"零 ...
分类：
其他好文 时间：
2016-12-11 18:26:26
阅读次数：
219
要求：使用10-fold交叉验证方法实现SVM的对人脸库识别，列出不同核函数参数对识别结果的影响，要求画对比曲线。 使用Python完成，主要参考文献【4】，其中遇到不懂的功能函数一个一个的查官方文档和相关资料。其中包含了使用Python画图，遍历文件，读取图片，PCA降维，SVM，交叉验证等知识。... ...
分类：
编程语言 时间：
2016-12-03 21:06:37
阅读次数：
758
CH5 稀疏学习 重点提炼 提出稀疏学习的缘故： 虽然带有约束条件的最小二乘学习法结合交叉验证法，在实际应用中是非常有效的回归方法，但是，当参数特别多时，计算参数以及预测值需要大量时间。此时，我们要解决这个问题。 稀疏学习思路： 把大部分参数都设置为0，这样就能快速计算参数以及预测值。 L1约束的最 ...
分类：
其他好文 时间：
2016-11-28 23:36:32
阅读次数：
409
摘要： 1.pipeline 模式 1.1相关概念 1.2代码示例 2.特征提取，转换以及特征选择 2.1特征提取 2.2特征转换 2.3特征选择 3.模型选择与参数选择 3.1 交叉验证 3.2 训练集-测试集 切... ...
分类：
其他好文 时间：
2016-11-25 20:15:22
阅读次数：
426
参考（http://blog.sina.com.cn/s/blog_8bdd25f80101d93o.html），最后几行修改为 %k近邻，取k=7，交叉验证法如何确定k的值？？？？ %选取7个最小值，用最简单的比较法试 M=[]; for i=1:210 M=[M distance(x,y,xne ...
分类：
其他好文 时间：
2016-11-06 17:27:00
阅读次数：
174
在建立分类模型时，交叉验证(Cross Validation)简称为CV，CV是用来验证分类器的性能。它的主体思想是将原始数据进行分组，一部分作为训练集，一部分作为验证集。利用训练集训练出模型，利用验证集来测试模型，以评估分类模型的性能。 训练数据上的误差叫做训练误差，它对算法模型的评价过于乐观。利 ...
分类：
其他好文 时间：
2016-10-31 16:34:57
阅读次数：
285
一直对于各种分类器评估的指标有点晕，今天决定琢磨下，并且写下来，方便以后回忆。 一、混淆矩阵 来源于信息论，根据上面的混淆矩阵，有3个指标需要搞清楚，我觉得记公式真的很容易搞混，建议大家都直接记文字加上自己理解就好了。 准确率=正确预测正负的个数/总个数（这个指标在python中的交叉验证时可以求准 ...
分类：
其他好文 时间：
2016-10-06 19:49:54
阅读次数：
155
