当前位置: 首页 > news >正文

pytorch-实现mnist手写数字识别(彩色)

  • 🍨 本文为🔗365天深度学习训练营 中的学习记录博客
  • 🍦 参考文章:[365天深度学习训练营-第P2周:彩色识别](365天深度学习训练营-第P2周:彩色图片识别 · 语雀 (yuque.com))**
  • 🍖 原作者:K同学啊|接辅导、项目定制

我的环境

  •  语言环境:Python3.6
  • 编译器:jupyter lab
  • 深度学习环境:pytorch1.10
  • 参考文章:本人博客(60条消息) 机器学习之——tensorflow+pytorch_重邮研究森的博客-CSDN博客

📌第P2周:彩色图片识别📌

  • 难度:小白入门⭐
  • 语言:Python3、Pytorch

🍺 要求:

  1. 学习如何编写一个完整的深度学习程序(✔)
  2. 手动推导卷积层与池化层的计算过程(✔)

🔔本次的重点在于学会构建CNN网络


目录

一 前期工作

1.设置GPU或者cpu

 2.导入数据

二 数据预处理

1.加载数据

2.可视化数据

3.再次检查数据

 三 搭建网络

四 训练模型

1.设置学习率

2.模型训练

五 模型评估

1.Loss和Accuracy图

 2.总结


一 前期工作

环境:python3.6,1080ti,pytorch1.10(实验室服务器的环境😂😂)

1.设置GPU或者cpu

import torch
import torch.nn as nn
import matplotlib.pyplot as plt
import torchvision
 
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
 
device

 2.导入数据

train_ds = torchvision.datasets.MNIST('data', 
                                      train=True, 
                                      transform=torchvision.transforms.ToTensor(), # 将数据类型转化为Tensor
                                      download=True)
 
test_ds  = torchvision.datasets.MNIST('data', 
                                      train=False, 
                                      transform=torchvision.transforms.ToTensor(), # 将数据类型转化为Tensor
                                      download=True)

二 数据预处理

1.加载数据

设置数据尺寸

batch_size = 32

设置dataset

 
train_dl = torch.utils.data.DataLoader(train_ds, 
                                       batch_size=batch_size, 
                                       shuffle=True)
 
test_dl  = torch.utils.data.DataLoader(test_ds, 
                                       batch_size=batch_size)

2.可视化数据

打印部分图片

import numpy as np

 # 指定图片大小,图像大小为20宽、5高的绘图(单位为英寸inch)
plt.figure(figsize=(20, 5)) 
for i, imgs in enumerate(imgs[:20]):
    # 维度缩减
    npimg = imgs.numpy().transpose((1, 2, 0))
    # 将整个figure分成2行10列,绘制第i+1个子图。
    plt.subplot(2, 10, i+1)
    plt.imshow(npimg, cmap=plt.cm.binary)
    plt.axis('off')

3.再次检查数据

输出数据的尺寸

# 取一个批次查看数据格式
# 数据的shape为:[batch_size, channel, height, weight]
# 其中batch_size为自己设定,channel,height和weight分别是图片的通道数,高度和宽度。
imgs, labels = next(iter(train_dl))
imgs.shape

 

 三 搭建网络

import torch
from torch import nn
from torch.nn import Conv2d, MaxPool2d, Flatten, Linear, Sequential,ReLU

num_classes = 10 

class Model(nn.Module):
    def __init__(self):
        super(Model,self).__init__()
        # 卷积层
        self.layers = Sequential(
            # 第一层
            Conv2d(3, 64, kernel_size=3),
            MaxPool2d(2),
            ReLU(),
            # 第二层
            Conv2d(64, 64, kernel_size=3),
            MaxPool2d(2),
            ReLU(),
            Conv2d(64, 128, kernel_size=3),
            MaxPool2d(2),
            ReLU(),
            Flatten(),
            Linear(512, 256,bias=True),
            ReLU(),
            Linear(256, 64,bias=True),
            ReLU(),
            Linear(64, num_classes,bias=True)
        )
    def forward(self, x):
        x = self.layers(x)
        return x

 打印网络结构

vgg16网络搭建:未修改尺寸

from torch import nn

vgg16=torchvision.models.vgg16(pretrained=True)#经过训练的
class Model(nn.Module):
    def __init__(self):
        super(Model,self).__init__()
        # 卷积层
        self.layers = Sequential(
            vgg16
        )
    def forward(self, x):
        x = self.layers(x)
        return x

 vgg16网络搭建:修改尺寸

四 训练模型

1.设置学习率

loss_fn    = nn.CrossEntropyLoss() # 创建损失函数
learn_rate = 1e-2 # 学习率
opt        = torch.optim.SGD(model.parameters(),lr=learn_rate)

2.模型训练

训练函数

# 训练循环
def train(dataloader, model, loss_fn, optimizer):
    size = len(dataloader.dataset)  # 训练集的大小,一共60000张图片
    num_batches = len(dataloader)   # 批次数目,1875(60000/32)
 
    train_loss, train_acc = 0, 0  # 初始化训练损失和正确率
    
    for X, y in dataloader:  # 获取图片及其标签
        X, y = X.to(device), y.to(device)
        
        # 计算预测误差
        pred = model(X)          # 网络输出
        loss = loss_fn(pred, y)  # 计算网络输出和真实值之间的差距,targets为真实值,计算二者差值即为损失
        
        # 反向传播
        optimizer.zero_grad()  # grad属性归零
        loss.backward()        # 反向传播
        optimizer.step()       # 每一步自动更新
        
        # 记录acc与loss
        train_acc  += (pred.argmax(1) == y).type(torch.float).sum().item()
        train_loss += loss.item()
            
    train_acc  /= size
    train_loss /= num_batches
 
    return train_acc, train_loss

测试函数 

def test (dataloader, model, loss_fn):
    size        = len(dataloader.dataset)  # 测试集的大小,一共10000张图片
    num_batches = len(dataloader)          # 批次数目,313(10000/32=312.5,向上取整)
    test_loss, test_acc = 0, 0
    
    # 当不进行训练时,停止梯度更新,节省计算内存消耗
    with torch.no_grad():
        for imgs, target in dataloader:
            imgs, target = imgs.to(device), target.to(device)
            
            # 计算loss
            target_pred = model(imgs)
            loss        = loss_fn(target_pred, target)
            
            test_loss += loss.item()
            test_acc  += (target_pred.argmax(1) == target).type(torch.float).sum().item()
 
    test_acc  /= size
    test_loss /= num_batches
 
    return test_acc, test_loss

具体训练代码 

epochs     = 20
train_loss = []
train_acc  = []
test_loss  = []
test_acc   = []

for epoch in range(epochs):
    model.train()
    epoch_train_acc, epoch_train_loss = train(train_dl, model, loss_fn, opt)
    
    model.eval()
    epoch_test_acc, epoch_test_loss = test(test_dl, model, loss_fn)
    
    train_acc.append(epoch_train_acc)
    train_loss.append(epoch_train_loss)
    test_acc.append(epoch_test_acc)
    test_loss.append(epoch_test_loss)
    
    template = ('Epoch:{:2d}, Train_acc:{:.1f}%, Train_loss:{:.3f}, Test_acc:{:.1f}%,Test_loss:{:.3f}')
    print(template.format(epoch+1, epoch_train_acc*100, epoch_train_loss, epoch_test_acc*100, epoch_test_loss))
print('Done')

五 模型评估

1.Loss和Accuracy图

 2.总结

1.本文与上篇文章区别在于灰色图像和彩色图像通道数一个为1,一个为3.所以这里的卷积输入都是3.

2.关于各层计算这里简单说一下,我们以范文举例:

卷积层:32->30因为((32-3)/1)+1=30

池化池:30->15因为30÷2=15

具体计算可以参考我题目开头的文章,这里不在赘述

3.我们可以看到本次训练效果不好,那我们可以利用经典网络vgg16进行修改,准确率提高到了百分之88了。其代码如上:

 4.我突然想起来,cifar数据集尺寸为32x32,而vgg16是224x224,那么这会影响我们的linear层。根据计算,最后的结果是原图大小的1/5,那么我们的输出结构也是512.然后我试着修改了代码,但是报错了,有机会继续研究一下。

相关文章:

  • C/C++语言100题练习计划 99——找第一个只出现一次的字符
  • Go使用Gin+mysql实现增删改查
  • PIE-Engine:房山区洪涝灾害风险评价
  • 【我的渲染技术进阶之旅】如何编译Filament的windows版本程序?
  • 03 C++ 字符串、向量和数组
  • python 代码 C 执行
  • 字节外包凭借【ui自动化测试框架】成功进入内部编制
  • 用 Plop 加快项目相似代码生成
  • Codeforces Round #822 (Div. 2) 补题 (A、B、C)
  • 【初阶与进阶C++详解】第十六篇:AVL树-平衡搜索二叉树(定义+插入+旋转+验证)
  • 去除多重共线性的5种方法,你学废了嘛?
  • Verilog的奇技淫巧[更新中]
  • 被CTO推荐的SQL总结
  • 第八章 时序检查(下)
  • Android 10 低内存应用白名单和应用保活
  • 【Amaple教程】5. 插件
  • Java 23种设计模式 之单例模式 7种实现方式
  • Java 内存分配及垃圾回收机制初探
  • JavaScript/HTML5图表开发工具JavaScript Charts v3.19.6发布【附下载】
  • MySQL用户中的%到底包不包括localhost?
  • node和express搭建代理服务器(源码)
  • React系列之 Redux 架构模式
  • vue从创建到完整的饿了么(18)购物车详细信息的展示与删除
  • 闭包,sync使用细节
  • 道格拉斯-普克 抽稀算法 附javascript实现
  • 简单基于spring的redis配置(单机和集群模式)
  • 聊一聊前端的监控
  • 软件开发学习的5大技巧,你知道吗?
  • 使用common-codec进行md5加密
  • Unity3D - 异步加载游戏场景与异步加载游戏资源进度条 ...
  • $.ajax()参数及用法
  • $.each()与$(selector).each()
  • %3cli%3e连接html页面,html+canvas实现屏幕截取
  • (¥1011)-(一千零一拾一元整)输出
  • (4.10~4.16)
  • (初研) Sentence-embedding fine-tune notebook
  • (三)Hyperledger Fabric 1.1安装部署-chaincode测试
  • (原創) X61用戶,小心你的上蓋!! (NB) (ThinkPad) (X61)
  • (转)【Hibernate总结系列】使用举例
  • (转)winform之ListView
  • * 论文笔记 【Wide Deep Learning for Recommender Systems】
  • ./configure,make,make install的作用(转)
  • .gitignore文件设置了忽略但不生效
  • .net 4.0 A potentially dangerous Request.Form value was detected from the client 的解决方案
  • .Net CF下精确的计时器
  • .net core Swagger 过滤部分Api
  • .Net MVC4 上传大文件,并保存表单
  • .NET/C# 编译期能确定的字符串会在字符串暂存池中不会被 GC 垃圾回收掉
  • .NET开发不可不知、不可不用的辅助类(一)
  • .net流程开发平台的一些难点(1)
  • @Autowired自动装配
  • @for /l %i in (1,1,10) do md %i 批处理自动建立目录
  • @param注解什么意思_9000字,通俗易懂的讲解下Java注解
  • @SuppressLint(NewApi)和@TargetApi()的区别
  • [ C++ ] STL---string类的模拟实现