在这部分我们检验多项式层数d和过拟合和欠拟合之间的关系。 1.我们区分是否是偏差或方差导致我们预测错误。 2.大偏差是欠拟合，大方差是过拟合。理想情况下，我们需要在这两者之间找到中庸之道。 当我们增加多项式的D时，训练误差会减小。 同时，交叉验证误差会随着d增加到一个点而减小，然后随着d的增加而增大 ...
分类：
其他好文 时间：
2017-08-19 21:15:42
阅读次数：
122
2017-08-12 1.图片分类是很多CV任务的基础； 2.图片分类要面临很多的问题，比如图片被遮挡，同一种动物有很多种颜色，形状等等，算法需要足够强壮； 3.所以很难直接写出程序来进行图片分类，常用的方法是数据的驱动的方法： 4.KNN: 重点在于选取K的数值，可以采取交叉验证的方式，找到最佳的 ...
分类：
移动开发 时间：
2017-08-12 16:18:08
阅读次数：
215
交叉验证 写一个函数，实现交叉验证功能，不能用sklearn库。 交叉验证(Cross-Validation): 有时亦称循环估计， 是一种统计学上将数据样本切割成较小子集的实用方法。于是可以先在一个子集上做分析， 而其它子集则用来做后续对此分析的确认及验证。 一开始的子集被称为训练集。而其它的子集 ...
分类：
其他好文 时间：
2017-08-02 11:55:33
阅读次数：
185
AIC 此处模型选择我们只考虑模型参数数量，不涉及模型结构的选择。 很多参数估计问题均采用似然函数作为目标函数，当训练数据足够多时，可以不断提高模型精度，但是以提高模型复杂度为代价的，同时带来一个机器学习中非常普遍的问题——过拟合。所以，模型选择问题在模型复杂度与模型对数据集描述能力（即似然函数）之 ...
分类：
其他好文 时间：
2017-07-30 13:58:26
阅读次数：
603
来源：lantian0802的专栏 blog.csdn.net/lantian0802/article/details/38333479 一、基础概念 1、10折交叉验证，英文名是10-fold cross-validation，用来测试算法的准确性。是常用的测试方法。将数据集分成10份。轮流将其中 ...
分类：
编程语言 时间：
2017-07-26 14:39:07
阅读次数：
176
通过K近邻算法探究numpy向量运算提速 茴香豆的“茴”字有... ... 使用三种计算图片距离的方式实现K近邻算法： 1.最为基础的双循环 2.利用numpy的broadca机制实现单循环 3.利用broadcast和矩阵的数学性质实现无循环 图片被拉伸为一维数组 X_train：(train_n ...
分类：
编程语言 时间：
2017-07-22 23:37:08
阅读次数：
880
交叉验证是在机器学习建立模型和验证模型参数时常用的办法。交叉验证，顾名思义，就是重复的使用数据，把得到的样本数据进行切分，组合为不同的训练集和测试集，用训练集来训练模型，用测试集来评估模型预测的好坏。在此基础上可以得到多组不同的训练集和测试集，某次训练集中的某样本在下次可能成为测试集中的样本，即所谓 ...
分类：
其他好文 时间：
2017-06-29 20:37:47
阅读次数：
119
SVMtrain的参数c和g的优化在svm训练过程中，需要对惩罚参数c和核函数的参数g进行优化，选取最好的参数知道测试集标签的情况下是让两个参数c和g在某一范围内取离散值，然后，取测试集分类准确率最佳的参数不知道测试集标签的情况下 （1）利用交叉验证的方法：(k-fold cross validat... ...
分类：
其他好文 时间：
2017-06-26 22:46:23
阅读次数：
293
在我们比赛的算法中，我们使用了交叉验证方法来筛选比较重要的特征，现在我们来了解一下什么是交叉验证(Cross-Validation)：有时亦称循环估计， 是一种统计学上将数据样本切割成较小子集的实用方法。于是可以先在一个子集上做分析， 而其它子集则用来做后续对此分析的确认及验证。 一开始的子集被称为 ...
分类：
其他好文 时间：
2017-06-24 21:04:47
阅读次数：
145
?? 内容概要¶ 训练集/測试集切割用于模型验证的缺点K折交叉验证是怎样克服之前的不足交叉验证怎样用于选择调节參数、选择模型、选择特征改善交叉验证 1. 模型验证回想¶ 进行模型验证的一个重要目的是要选出一个最合适的模型，对于监督学习而言，我们希望模型对于未知数据的泛化能力强，所以就须要模型验证这一 ...
分类：
其他好文 时间：
2017-06-23 14:14:54
阅读次数：
1121
