def weight_init(m): if isinstance(m, nn.Linear): nn.init.xavier_normal_(m.weight) nn.init.constant_(m.bias, 0) # 也可以判断是否为conv2d，使用相应的初始化方式 elif isinst ...
分类：
其他好文 时间：
2019-12-20 22:23:04
阅读次数：
93
1、 偏差 方差分解是解释学习算法泛化性能的一种重要工具，试图对学习算法的期望泛化误差率(generalization error)进行分解。可以分解为三部分，偏差(bias)、方差(variance)和噪声(noise)。其中， 偏差：度量了模型的期望值和真实结果的偏离程度，刻画了模型本身的拟合能 ...
分类：
其他好文 时间：
2019-12-03 19:47:18
阅读次数：
176
概率抽样方法： 1. 随机抽样（random sampling）：从有限总体中简单随机抽样或从无限总体中随机抽样。 具体实现方式：a. 抽签法；b. 随机数字法 2. 分层抽样（stratified sampling）：将总体单位按某种特征或某种规则划分为不同的层(Strata)， 然后从每一层中随 ...
分类：
其他好文 时间：
2019-12-03 11:44:20
阅读次数：
1725
模型优化评估, 扩充基, 过拟合, 模型的Bias, Variance ...
分类：
其他好文 时间：
2019-12-02 16:46:40
阅读次数：
109
1. keras.engine.input_layer.Input() 用来实例化一个keras tensor 2. class Dense(Layer): keras.layers.Dense(units, activation=None, use_bias=True, kernel_initia ...
分类：
其他好文 时间：
2019-12-02 13:20:44
阅读次数：
107
一、一段一米长的绳子，随机且两刀，分成三段，求能够组合成一个三角形的概率。 二、什么是bias，什么是variance？ 答： 在用机器学习算法对数据进行拟合的过程中，往往一开始得不到满意的结果，例如 AUC 值不够高，此时我们就需要对模型进行调优，那么调优的方向是什么？有没有调优方法论可遵循？答案 ...
分类：
其他好文 时间：
2019-12-01 13:56:45
阅读次数：
85
对预测模型讨论，预测误差（error）分两类：偏差（bias）造成的误差与方差（variance）造成的误差。最小化偏差与方差的一个权衡。理解这两类误差有利于诊断模型结果和避免过拟合和欠拟合。 偏差与方差 三种方式定义偏差与方差：概念、图形、数学 概念定义： 偏差造成的误差：预期/平均预测值 和 尝 ...
分类：
其他好文 时间：
2019-10-27 00:37:04
阅读次数：
92
偏差（Bias）与方差（Variance） 目录： 为什么会有偏差和方差？ 偏差、方差、噪声是什么？ 泛化误差、偏差和方差的关系？ 用图形解释偏差和方差。 偏差、方差窘境。 偏差、方差与过拟合、欠拟合的关系？ 偏差、方差与模型复杂度的关系？ 偏差、方差与bagging、boosting的关系？ 偏差 ...
分类：
其他好文 时间：
2019-10-23 18:37:53
阅读次数：
105
Reservoir sampling is a family of randomized algorithms for randomly choosing k samples from a list of n items, where n is either a very large or unkn ...
分类：
其他好文 时间：
2019-10-21 10:07:50
阅读次数：
100
回到目录 （续上小节） 3. 分压偏置 前面的“改进型固定偏置”电路，虽然情况比原始的固定偏置电路好了一点，但还是不太理想，于是人们又设计出了性能更加稳定的分压偏置（voltage-divider bias configuration）电路，如下图所示： 图3-6.06 分压偏置电路的稳定性非常完美 ...
分类：
其他好文 时间：
2019-10-19 11:25:00
阅读次数：
147
