标签:tab master github nal gen pac The alc 初始化
译者:GeneZC
torch.nn.init.calculate_gain(nonlinearity, param=None)
返回给定非线性函数的推荐的增益值。对应关系如下表:
非线性函数 | 增益 |
---|---|
Linear / Identity | |
Conv{1,2,3}D | |
Sigmoid | |
Tanh | |
ReLU | |
Leaky Relu |
参数:
nn.functional
中的名字)例子
>>> gain = nn.init.calculate_gain(‘leaky_relu‘)
torch.nn.init.uniform_(tensor, a=0, b=1)
用均匀分布 初始化输入 Tensor
。
PyTorch 1.0 中文文档:torch.nn.init
标签:tab master github nal gen pac The alc 初始化
原文地址:https://www.cnblogs.com/wizardforcel/p/10392208.html