当前位置: 首页 > news >正文

选GPU运行

一、选择计算设备

1、查询可用gpu的数量

torch.cuda.device_count()

2、将张量分配给设备,没有GPU也可以运行

def try_gpu(i=0):  #@save"""如果存在,则返回gpu(i),否则返回cpu()"""if torch.cuda.device_count() >= i + 1:return torch.device(f'cuda:{i}')return torch.device('cpu')def try_all_gpus():  #@save"""返回所有可用的GPU,如果没有GPU,则返回[cpu(),]"""devices = [torch.device(f'cuda:{i}')for i in range(torch.cuda.device_count())]return devices if devices else [torch.device('cpu')]try_gpu(), try_gpu(10), try_all_gpus()

3、默认情况下,张量是在CPU上创建的

x = torch.tensor([1, 2, 3])
x.device->     device(type='cpu')

二、张量与GPU

1、数据在同一个GPU上,可以将它们相加,若不在同一设备上,cpu里面数据放到gpu上会很慢,所以运算要在同样的设备上进行。

2、Z = X.cuda(1),也可以创建不同设备的数据(x在cuda1上,z在cuda2上)

三、神经网络与GPU

1、将模型参数放到GPU上net = net.to(device=try_gpu())

相关文章:

  • 大模型+多模态合规分析平台,筑牢金融服务安全屏障
  • React+TS 从零开始教程(4):useEffect
  • Qt中使用MySQL数据库详解,好用的模块类封装
  • 比较Java爬虫框架:哪个是最佳选择?
  • PostgreSQL 性能优化与调优(六)
  • Java核心知识(一):JVM
  • PDF一键转PPT文件!这2个AI工具值得推荐,办公必备!
  • Vue 全局状态管理新宠:Pinia实战指南
  • 网络编程:使用UDP实现数据帧的接收
  • AI安全研究滞后?清华专家团来支招
  • VMamba: Visual State Space Model论文笔记
  • [PyTorch]:加速Pytorch 模型训练的几种方法(几行代码),最快提升八倍(附实验记录)
  • 入门PHP就来我这(纯干货)05
  • 【CSS】什么是CSS的columns属性
  • 全面了解机器学习
  • Effective Java 笔记(一)
  • Python 基础起步 (十) 什么叫函数?
  • Quartz初级教程
  • React-生命周期杂记
  • webpack项目中使用grunt监听文件变动自动打包编译
  • Zsh 开发指南(第十四篇 文件读写)
  • 基于Android乐音识别(2)
  • 每个JavaScript开发人员应阅读的书【1】 - JavaScript: The Good Parts
  • 设计模式(12)迭代器模式(讲解+应用)
  • 手写一个CommonJS打包工具(一)
  • 双管齐下,VMware的容器新战略
  • 想写好前端,先练好内功
  • 一个项目push到多个远程Git仓库
  • 深度学习之轻量级神经网络在TWS蓝牙音频处理器上的部署
  • 【运维趟坑回忆录】vpc迁移 - 吃螃蟹之路
  • ​第20课 在Android Native开发中加入新的C++类
  • # 消息中间件 RocketMQ 高级功能和源码分析(七)
  • #git 撤消对文件的更改
  • #我与Java虚拟机的故事#连载11: JVM学习之路
  • (C语言)求出1,2,5三个数不同个数组合为100的组合个数
  • (Matalb分类预测)GA-BP遗传算法优化BP神经网络的多维分类预测
  • (生成器)yield与(迭代器)generator
  • .bat批处理(二):%0 %1——给批处理脚本传递参数
  • .cfg\.dat\.mak(持续补充)
  • .NET Core WebAPI中封装Swagger配置
  • .NET Framework与.NET Framework SDK有什么不同?
  • .net framwork4.6操作MySQL报错Character set ‘utf8mb3‘ is not supported 解决方法
  • .net 提取注释生成API文档 帮助文档
  • .net访问oracle数据库性能问题
  • .Net中ListT 泛型转成DataTable、DataSet
  • 。Net下Windows服务程序开发疑惑
  • @angular/cli项目构建--Dynamic.Form
  • @ConditionalOnProperty注解使用说明
  • @Mapper作用
  • @RequestBody与@ResponseBody的使用
  • [23] GaussianAvatars: Photorealistic Head Avatars with Rigged 3D Gaussians
  • [ai笔记4] 将AI工具场景化,应用于生活和工作
  • [Android]如何调试Native memory crash issue
  • [BZOJ 3282] Tree 【LCT】
  • [C++] 小游戏 斗破苍穹 2.11.6 版本 zty出品