标签:函数 创建 step ORC module __init__ backward 清零 关系
一、建立神经网络:Net(nn.Module)
1、创建层:__init__
2、创建层关系:forward
二、创建神经网络:net = Net(1, 2, 1)
三、创建优化器:torch.optim.SGD(net.parameters(), lr=0.2)
四、创建损失函数:torch.nn.MSELoss()
五、训练神经网络:
1、正向传播:opt = net(x)
2、计算损失:loss_function(opt, y)
3、梯度清零:optimizer.zero_grad()
4、反向传播:loss.backward()
5、参数优化:optimizer.step()
标签:函数 创建 step ORC module __init__ backward 清零 关系
原文地址:https://www.cnblogs.com/liujianing/p/12234135.html