pytorch学习9-优化器学习
系列文章目录
- pytorch学习1-数据加载以及Tensorboard可视化工具
- pytorch学习2-Transforms主要方法使用
- pytorch学习3-torchvisin和Dataloader的使用
- pytorch学习4-简易卷积实现
- pytorch学习5-最大池化层的使用
- pytorch学习6-非线性变换（ReLU和sigmoid）
- pytorch学习7-序列模型搭建
- pytorch学习8-损失函数与反向传播
- pytorch学习9-优化器学习
- pytorch学习10-网络模型的保存和加载
- pytorch学习11-完整的模型训练过程
文章目录
- 系列文章目录
- 一、优化器使用
- 总结
一、优化器使用
import torch.optim
import torchvision
from torch import nn
from torch.nn import Conv2d, MaxPool2d, Sequential, Flatten, Linear
from torch.utils.data import DataLoaderdataset=torchvision.datasets.CIFAR10("data",train=False,transform=torchvision.transforms.ToTensor(),download=True)
dataloader=DataLoader(dataset,batch_size=1)class Mynn(nn.Module):#这是使用序列的方法：def __init__(self):super(Mynn,self).__init__()self.model1=Sequential(Conv2d(3, 32, 5, padding=2),MaxPool2d(2),Conv2d(32, 32, 5, padding=2),MaxPool2d(2),Conv2d(32, 64, 5, padding=2),MaxPool2d(2),Flatten(),Linear(1024, 64),Linear(64, 10))def forward(self,x):x=self.model1(x)return xmynn=Mynn()
loss=nn.CrossEntropyLoss()
optim=torch.optim.SGD(mynn.parameters(),lr=0.01)#调用SGD优化器。第一个参数是把模型的参数全输入进去for epoch in range(20):runing_loss=0.0for data in dataloader:imgs,target=dataoutputs=mynn(imgs)result_loss=loss(outputs,target)optim.zero_grad()#将上一次的梯度设置为0，这一步必须做result_loss.backward()#反向传播，计算出模型的参数optim.step()#进行完反向传播之后，模型的参数就计算出来了，就可以调用优化器了runing_loss=runing_loss+result_lossprint(runing_loss)#查看每一轮的损失之和
总结
以上就是今天要讲的内容，优化器的使用