文|苏剑林单位｜追一科技编|兔子酱不管是打比赛、做实验还是搞工程，我们经常会遇到训练集与测试集分布不一致的情况。一般来说我们会从训练集中划分出来一个验证集，通过这个验证集来调整一些超参数[1]，比如控制模型的训练轮数以防止过拟合。然而，如果验证集本身跟测试集差别比较大，那么验证集上很好的模型也不代表在测试集上很好，因此如何让划分出来的验证集跟测试集的分布差异更小一些，是一个值得研究的题目。为什么分
分类：
其他好文 时间：
2020-12-24 12:13:25
阅读次数：
0
梯度下降推导与优化算法的理解和Python实现目录梯度下降算法推导优化算法的理解和Python实现SGDMomentumNestrovAdaGradRMSpropAdam算法的表现1梯度下降算法推导模型的算法就是为了通过模型学习，使得训练集的输入获得的实际输出与理想输出尽可能相近。极大似然函数的本质就是衡量在某个参数下，样本整体估计和真实情况一样的概率，交叉熵函数的本质是衡量样本预测值与真实值之间
分类：
编程语言 时间：
2020-12-19 12:30:58
阅读次数：
5
YOLO 网络文件组织说明 cfg 文件夹：存放可采用的模型 如 yolov4-tiny.cfg 模型，构造网络结构最为简易 datasets 文件夹：存放数据集 datasets/faces 文件夹：faces 数据集的图片和标签（分为训练集和验证集） datasets/faces/images/ ...
分类：
其他好文 时间：
2020-12-18 12:21:18
阅读次数：
3
主要内容：神经网络与数学之间的关系在我们了解过神经网络的人中，都了解神经网络一个有很常见的训练方法，BP训练算法.通过BP算法，我们可以不断的训练网络，最终使得网络可以无限的逼近一种我们想要拟合的函数，最终训练好的网络它既能在训练集上表现好，也能在测试集上表现不错！那么BP算法具体是什么呢？为什么通过BP算法，我们就可以一步一步的走向最优值（即使有可能是局部最优，不是全局最优，我们也可以通过其它的
分类：
其他好文 时间：
2020-11-30 15:37:54
阅读次数：
7
花式解释AutoEncoder与VAE1什么是自动编码器自动编码器(AutoEncoder)最开始作为一种数据的压缩方法，其特点有:（1）跟数据相关程度很高，这意味着自动编码器只能压缩与训练数据相似的数据，这个其实比较显然，因为使用神经网络提取的特征一般是高度相关于原始的训练集，使用人脸训练出来的自动编码器在压缩自然界动物的图片是表现就会比较差，因为它只学习到了人脸的特征，而没有能够学习到自然界图
分类：
Web程序 时间：
2020-11-27 11:26:26
阅读次数：
10
k折验证中k值对偏差和方差的影响？ 总共n个数据，假设为2，每次训练集大小为n/2，每次训练的数据量会偏小，取平均值后，由于每次训练的数据量比较小，最终学习输出的模型会不能很好的代表样本的分布（欠拟合），换句话说就是偏差大。或者这么理解，由于k折交叉验证是使用k次训练的结果取平均值来进行预测的，如果 ...
分类：
其他好文 时间：
2020-11-08 17:06:28
阅读次数：
20
误差来源 bias variance 比喻：打靶 真实的Function$\widehat$ 通过训练集得到的最优解$f^*$ $f^*\(是\)\widehat$的一个估计 $\widehat$就是靶心，我们打靶的目标 $f^*$是打靶的结果，与靶心的距离即为误差 假设要估计变量$x$的均值$\m ...
分类：
其他好文 时间：
2020-10-13 17:51:44
阅读次数：
42
1.训练集数据量大，测试集数据了小，容易在复赛过拟合 2.数据：个人信息 App的使用信息 个人消费记录 3.处理过程： 1）数据清洗 1.1 对缺失值的对维度处理 1.1.1 按列属性统计缺失值（可视化） 剔除缺失值比例高的属性（90%左右）； 缺失值比例在40%~60%（缺省型-1）； 确实在2 ...
分类：
其他好文 时间：
2020-09-17 22:31:23
阅读次数：
28
一般在有监督训练中，我们很自然地会用如下模式去预测测试集的分类：(以svm为例) svm.fit(x_train, y_train) y_pred=svm.predict(x_test) 那么无监督训练中是否也可以在一个数据集上训练，然后用训练好的模型直接调用predict()函数在另一个数据集上进 ...
分类：
其他好文 时间：
2020-09-17 17:12:13
阅读次数：
39
数据 就目前来说，提升算法性能的更加可靠的方法仍然是训练更大的网络以及获取更多的数据 不要武断地认为测试集分布和训练集分布是一致的，仔细地评估数据集非常重要 开发集和测试集应该与你最终想要解决的数据分布一致，而训练集则未必需要符合这个要求 在训练数据不足的情况下，你可以尝试引入额外的训练数据，只要它 ...
分类：
系统相关 时间：
2020-09-16 12:42:19
阅读次数：
51
