机器学习评估方法
留出法(hold out):数据集预留出一部分数据为测试集,将数据集 D 划分为训练集 S 和测试集 T。大概比例为测试集占全局数据量的(1/5~1/3)
留一法:留一法是留出法的特例,即每次测试集 T 只留一个数据,剩下的作为训练集 S
K折交叉验证(k-fold cross validation):每次将数据划分 k 份,其中一份作为测试集 T,剩下的作为训练集 S;重复以上过程 k 次,特别地每次用作测试集 T 的都是各不相同的。
自助法(bootstrapping):每次从数据集 D 中有放回地采一个样本,并将这个样本放入训练集 S 中,共重复 m 次,此时训练集共有 m 个样本,而测试集 T 则为 D - S(此处的减法为集合减法)