如何选择超参数： 交叉验证： 如图， 大训练集分块，使用不同的分块方法分成N对小训练集和验证集。 使用小训练集进行训练，使用验证集进行验证，得到准确率，求N个验证集上的平均正确率； 使用平均正确率最高的超参数，对整个大训练集进行训练，训练出参数。 在训练集上训练。 十折交叉验证 网格搜索 诸如你有多 ...
分类：
其他好文 时间：
2018-09-15 00:43:30
阅读次数：
533
k-近邻算法采用测量不同特征值之间的距离方法（上面写的公式）进行分类。 优点：精度高、对异常值不敏感、无数据输入假定。 缺点：计算复杂度高、空间复杂度高。 原理：１.存在一个训练样本集，并且样本集中每个数据都存在标签，即我们知道样本集中每一数据与所属分类的对应关系。 ２.输入没有标签的新数据后，将新 ...
分类：
其他好文 时间：
2018-05-14 23:05:15
阅读次数：
409
主要内容：1、十折交叉验证2、混淆矩阵3、K近邻4、python实现一、十折交叉验证前面提到了数据集分为训练集和测试集，训练集用来训练模型，而测试集用来测试模型的好坏，那么单一的测试是否就能很好的衡量一个模型的性能呢？答案自然是否定的，单一的测试集具有偶然性和随机性。因此本文介绍一种衡量模型（比如分...
分类：
其他好文 时间：
2015-10-05 18:04:28
阅读次数：
241
版权声明：本文为原创文章，转载请注明来源。1.原理1.1 概念交叉验证(Cross-validation)主要用于模型训练或建模应用中，如分类预测、PCR、PLS回归建模等。在给定的样本空间中，拿出大部分样本作为训练集来训练模型，剩余的小部分样本使用刚建立的模型进行预测，并求这小部分样本的预测误差或者预测精度，同时记录它们的加和平均值。这个过程迭代K次，即K折交叉。其中，把每个样本的预测误差平方加和...
分类：
其他好文 时间：
2015-07-28 21:15:20
阅读次数：
1786
