一、简介
Jackknife(刀切法)是有Maurice Quenouille (1949)提出的一种再抽样方法，其原始动机是降低估计的偏差。Jackknife为一种瑞士小折刀，很容易携带。通过类比， John W. Tukey (1958)在统计学中创造了这个术语，作为一种通用的假设检验和置信区间计算的方法。
Jackknife类似于“Leave one out”的交叉验证方法。令X=(...
分类：
其他好文 时间：
2015-01-20 12:03:28
阅读次数：
989
交叉验证是一种模型选择方法，其将样本的一部分用于训练，另一部分用于验证。因此不仅考虑了训练误差，同时也考虑了泛化误差。从这里可以看出机器学习、数据挖掘与传统统计学的一个重要差别：传统统计学更注重理论，追求理论的完整性和模型的精确性，在对样本建立某个特定模型后，用理论去对模型进行各种验证；而机器学习/数据挖掘则注重经验，如交叉验证，就是通过不同模型在同一样本上的误差表现好坏，来选择适合这一样本的模型，而不去纠结理论上是否严谨。...
分类：
其他好文 时间：
2015-01-19 11:02:31
阅读次数：
237
基本思想：将数据分为训练集合和测试集合，用训练集合的数据训练模型，用测试集合的数据测试模型。训练集和测试集的划分，可以是按照时间的维度，也可以按照人群的维度。
存在风险：对于某些方法可能有偏向性。
用历史数据进行评价
按照时间维度将数据分为训练集合测试集，N折交叉验证。
还有直接用人工进行评价的。不过代价较大，不能上规模，在实际中用处不大。
完。...
分类：
其他好文 时间：
2015-01-17 18:02:07
阅读次数：
165
交叉验证是一种检测model是否overfit的方法。最常用的cross validation是k-fold cross validation。具体的方法是：1.将数据平均分成k份，0，1，2，，，k-12.使用1~k-1份数据训练模型，然后使用第0份数据进行验证。3.然后将第1份数据作为验证数据。...
分类：
其他好文 时间：
2015-01-02 12:05:04
阅读次数：
188
一：交叉验证（crossvalidation）（附实验的三种方法）方法简介
（1） 定义：交叉验证(Cross-validation)主要用于建模应用中，例如PCR（Principal Component Regression） 、PLS（Partial
least squares regression）回归建模中。在给定的建模样本中，拿出大部分样本进行建模型，留小部分样本用刚建立的...
分类：
其他好文 时间：
2014-12-18 11:59:28
阅读次数：
175
主要介绍如何通过验证来评估模型的性能及如何通过验证选取模型的问题。介绍的方法有：模型选择、交叉验证。...
分类：
其他好文 时间：
2014-11-29 00:17:19
阅读次数：
202
转自：http://blog.csdn.net/lantian0802/article/details/383334791.基础概念：(1) 10折交叉验证：英文名是10-fold cross-validation，用来测试算法的准确性。是常用的测试方法。将数据集分成10份。轮流将其中的9份作为训练...
分类：
编程语言 时间：
2014-11-20 20:22:41
阅读次数：
335
本文基本按照《统计学习方法》中第一章的顺序来写，目录如下：1. 监督学习与非监督学习2. 统计学习三要素3.过拟合与正则化（L1、L2）4.交叉验证5. 泛化能力6. 生成模型与判别模型7. 机器学习主要问题8. 提问正文：1. 监督学习与非监督学习 从标注数据中学习知识的规律以及训练模型的方法叫....
分类：
其他好文 时间：
2014-11-16 21:18:33
阅读次数：
281
今天听了一个师兄的讲课，才发现我一直在科研上特别差劲，主要表现在以下几个方面，（现在提出也为了督促自己在以后的学习工作道路上能够避免这些问题）1、做事情总是有头无尾，致使知识点不能一次搞透，每次在用到相同知识点的时候才发现之前对这个知识了解的还是不透彻。2、不善于总结，做的东西（如代码和论文）很多也...
分类：
其他好文 时间：
2014-10-11 11:35:35
阅读次数：
255
1.基础概念：
(1) 10折交叉验证：英文名是10-fold cross-validation，用来测试算法的准确性。是常用的测试方法。将数据集分成10份。轮流将其中的9份作为训练数据，1分作为测试数据，进行试验。每次试验都会得出相应的正确率（或差错率）。10次的结果的正确率（或差错率）的平均值作为对算法精度的估计，一般还需要进行多次10折交叉验证，在求其平均值，对算法的准确性进行估计。
...
分类：
其他好文 时间：
2014-08-01 13:47:32
阅读次数：
250
