交叉验证 交叉验证可以用来估计一个模型的泛化能力，如果一个模型在训练集上表现良好，通过交叉验证指标却得出其泛化能力很差，那么模型就是 过拟合 了；如果这两个方面表现的都不好，那么它就是 欠拟合 了，这个方法可以告诉我们，模型是太复杂还是太简单了 观察学习曲线 另一种方法就是观察学习曲线，画出模型在训 ...
分类：
其他好文 时间：
2020-05-15 00:06:46
阅读次数：
69
文章目录 4. Pipelines 管道5. Cross-Validation 交叉验证上一篇：【Kaggle】Intermediate Machine Learning（缺失值+文字特征处理） 4. Pipelines 管道 该模块可以把数据前处理+建模整合起来 好处： 更清晰的代码：在预处理的每 ...
分类：
系统相关 时间：
2020-05-13 23:37:13
阅读次数：
108
交叉验证 当我们构建分类器时，有可能会存在过拟合现象。如何利用有限的数据降低模型的过拟合？——交叉验证 我们把每个数据集分成两个子集 一个用于构建分类器（模型），称为训练集（training set） 另一个用于评估分类器，称为测试集（test set） 根据训练集和测试集的挑选方法，一般可分为简单 ...
分类：
其他好文 时间：
2020-05-07 17:03:08
阅读次数：
159
正则化与交叉验证用于模型选择 1 正则化 正则化是结构风险最小化策略的实现，是在经验风险上加一个正则化项(regularizer)或罚项(penalty iterm )。正则化项一般是模型复杂度的单调递增函数，模型越复杂，正则化值就越大。比如，正则化项可以是模型参数向量的范数。 正则化一般形式： 正 ...
分类：
其他好文 时间：
2020-05-03 20:31:49
阅读次数：
81
交叉验证（Cross validation)，交叉验证用于防止模型过于复杂而引起的过拟合.有时亦称循环估计， 是一种统计学上将数据样本切割成较小子集的实用方法。于是可以先在一个子集上做分析， 而其它子集则用来做后续对此分析的确认及验证。 一开始的子集被称为训练集。而其它的子集则被称为验证集或测试集。 ...
分类：
其他好文 时间：
2020-04-02 18:22:19
阅读次数：
88
event.txt 解决分类问题： 数据处理：训练集测试集划分，交叉验证，验证曲线，学习曲线，网格搜索。。 分类模型：逻辑回归，朴素贝叶斯，树模型，svm 模型评估：混淆矩阵，分类报告；查找率，召回率，f1得分 ...
分类：
其他好文 时间：
2020-03-24 15:49:02
阅读次数：
60
KFold（n_split, shuffle, random_state） 参数：n_splits:要划分的折数 shuffle: 每次都进行shuffle，测试集中折数的总和就是训练集的个数 random_state:随机状态 from sklearn.model_selection import ...
分类：
其他好文 时间：
2020-03-18 22:01:32
阅读次数：
113
算法1：k近邻法 复杂度：O(n) 算法2：构造平衡kd树 算法3：搜索kd树 复杂度:O(log(n)) 当空间维数接近训练实例数时，他的效率会迅速下降，几乎接近线性扫描 python代码实现k近邻法： # # k近邻算法 步骤： 1.导入数据 2.分割数据(用于交叉验证) 3.k近邻算法 4.模 ...
分类：
其他好文 时间：
2020-03-09 13:24:04
阅读次数：
38
由于验证数据集不参与模型训练，当训练数据不够用时，预留大量的验证数据显得太奢侈。一种改善的方法是KK折交叉验证（KK-fold cross-validation）。在KK折交叉验证中，我们把原始训练数据集分割成KK个不重合的子数据集，然后我们做KK次模型训练和验证。每一次，我们使用一个子数据集验证模 ...
分类：
其他好文 时间：
2020-03-06 21:37:44
阅读次数：
63
Pytorch冲冲冲 2.10 1. Dropout 2. BackPropagation 3. 梯度衰减和爆炸 4. house price predict 2.11 1. K折交叉验证法 2. conv layer 3. padding and strides 4. channels 5. po ...
分类：
其他好文 时间：
2020-02-11 00:04:53
阅读次数：
63
