fromsklearnimportdatasetsfromsklearnimportmodel_selection#引入sklearn库中手写数字的数据集digits=datasets.load_digits()#留出法X_train,X_test,y_train,y_test=model_selection.train_test_split(digits.data,digits.target,t
分类：
其他好文 时间：
2018-10-08 19:34:38
阅读次数：
428
调参数是一件很头疼的事情，今天学习到一个较为简便的跑循环交叉验证的方法，虽然不是最好的，如今网上有很多调参的技巧，目前觉得实现简单的，以后了解更多了再更新。 输出： 1011121314151617181920212223242526272829[0.97412964956075354, 0.972 ...
分类：
其他好文 时间：
2018-09-15 01:16:31
阅读次数：
181
如何选择超参数： 交叉验证： 如图， 大训练集分块，使用不同的分块方法分成N对小训练集和验证集。 使用小训练集进行训练，使用验证集进行验证，得到准确率，求N个验证集上的平均正确率； 使用平均正确率最高的超参数，对整个大训练集进行训练，训练出参数。 在训练集上训练。 十折交叉验证 网格搜索 诸如你有多 ...
分类：
其他好文 时间：
2018-09-15 00:43:30
阅读次数：
533
svm分析（类似于源码）fromfutureimportprint_functionfromtimeimporttimeimportlogging#绘图工具importmatplotlib.pyplotasplt#cross_validation：交叉验证，这里现在使用model_selectionfromsklearn.model_selectionimporttrain_test_splitf
分类：
其他好文 时间：
2018-09-11 18:06:53
阅读次数：
191
六、验证数据集与交叉验证 七、偏差方差平衡 偏差方差权衡 Bias Variance Trade off 偏差 Bias 导致偏差的主要原因： 对问题本身的假设不正确！ 如：非线性数据使用线性回归 欠拟合 underfitting 方差 Variance 数据的一点点扰动都会较大的影响模型 通常原因 ...
分类：
其他好文 时间：
2018-08-31 17:20:16
阅读次数：
355
判别模型 误分点到超平面的距离 对偶解法（Gram矩阵） 多类分类， 回归 特征空间， 样本点 判别模型 三要素： 1、距离度量：曼哈顿和欧氏距离 2、k值选取：（估计误差和近似误差），交叉验证求最优 3、分类决策：多数表决 kd树（构造和搜索，适用于训练实例远大于空间维数） 特征与类别的联合概率 ...
分类：
其他好文 时间：
2018-08-29 19:57:48
阅读次数：
203
乳腺癌检测问题 1.使用数据：sklearn自带乳腺癌数据集 1.可以看出使用二阶段像是并使用L1范数作为正则项的模型为最优模型； 2.可以看出，训练样本评分和交叉验证样本评分之间的间隙还比较大，即方差比较大，可以采集更多的数据，以便于对模型进行优化。 ...
分类：
其他好文 时间：
2018-08-21 21:13:47
阅读次数：
413
https://blog.csdn.net/libaqiangdeliba/article/details/41901387 1.基础概念： (1) 10折交叉验证：英文名是10-fold cross-validation，用来测试算法的准确性。是常用的测试方法。将数据集分成10份。轮流将其中的9份 ...
分类：
编程语言 时间：
2018-08-18 13:12:29
阅读次数：
151
# 问题：如果将所有的数据集都作为训练数据集，则对于训练出的模型是否发生了过拟合会不自知，因为过拟合情况下，模型在训练数据集上的误差非常的小，使人觉得模型效果很好，但实际上可能泛化能力不足； # 方案：将数据集分割为训练数据集和测试数据集，通过测试数据集判断模型的好坏——如果通过学习曲线发现，模型在 ...
分类：
其他好文 时间：
2018-07-10 23:40:01
阅读次数：
179
17.1大型数据集的学习 首先通过学习曲线判断是否增大数据集有效： 高方差时（交叉验证集误差减去训练集误差大时）增加数据集可以提高系统。下图中左图增加数据集有效，右图无效。 17.2随机梯度下降法 随机梯度下降法是只使用一个样本来迭代，其损失函数为： 迭代过程为： 特点： (1)计算量小，迭代速度快 ...
分类：
其他好文 时间：
2018-07-07 17:45:50
阅读次数：
201
