当前位置： 首页 > news >正文

指定GPU跑模型

news 来源：原创 2024/9/29 7:31:39

加上一个CUDA_VISIBLE_DEVICES=0,2就行了，使用0卡和2卡跑模型，注意多卡有时候比单卡慢，4090无NVlink，数据似乎是通过串行的方式传输到多个gpu的，只不过单个gpu是并行计算，数据在gpu与gpu之间似乎是串行传输的，如果第一个卡的显存实在是太过于紧张，只有几十mb可用也可能导致cuda out of memory！
指定0卡和2卡

CUDA_VISIBLE_DEVICES=0,2 python main.py

指定2卡

CUDA_VISIBLE_DEVICES=2 python main.py

----->
确保CUDA可用，安装了与cuda对应的pytorch

import torch
print(torch.cuda.is_available())

相关文章：

  • 易优cms远程调试
  • CDN缓存命中率较低可能的原因
  • 无人机校企合作
  • Python学习笔记15：进阶篇(四)文件的读写。
  • vue 中实现用户上传文件夹的功能
  • 容器基本概念_从虚拟化技术_到容器化技术_开通青云服务器_并远程连接_容器安装---分布式云原生部署架构搭建007
  • 通过MindSpore API实现深度学习模型
  • 聚合大模型场景助力产业升级，WAIC 2024 容联云论坛即将开幕
  • 一键掌控，4G红外插座引领智能生活新潮流！
  • 21、24年--项目管理概论——项目经理的角色
  • Spring Boot集成tensorflow实现图片检测服务
  • 2024广东省职业技能大赛云计算赛项实战——编排部署ERP管理系统
  • 如何设计一个点赞系统
  • Linux系统安装Dify结合内网穿透实现远程访问本地LLM开发平台
  • Redis 数据恢复及持久化策略分析
  • Angular js 常用指令ng-if、ng-class、ng-option、ng-value、ng-click是如何使用的？
  • DOM的那些事
  • es6(二)：字符串的扩展
  • Js基础——数据类型之Null和Undefined
  • leetcode46 Permutation 排列组合
  • Lucene解析 - 基本概念
  • Spark in action on Kubernetes - Playground搭建与架构浅析
  • Transformer-XL: Unleashing the Potential of Attention Models
  • 阿里云爬虫风险管理产品商业化，为云端流量保驾护航
  • 一道面试题引发的“血案”
  • k8s使用glusterfs实现动态持久化存储
  • 第二十章：异步和文件I/O.（二十三）
  • 微龛半导体获数千万Pre-A轮融资，投资方为国中创投 ...
  • 资深实践篇 | 基于Kubernetes 1.61的Kubernetes Scheduler 调度详解 ...
  • #QT 笔记一
  • #QT项目实战（天气预报）
  • #数据结构 笔记一
  • (04)odoo视图操作
  • （SERIES12）DM性能优化
  • （二）Eureka服务搭建，服务注册，服务发现
  • （三）Kafka离线安装 - ZooKeeper开机自启
  • （十）c52学习之旅-定时器实验
  • (四)js前端开发中设计模式之工厂方法模式
  • ***检测工具之RKHunter AIDE
  • ***利用Ms05002溢出找“肉鸡
  • **《Linux/Unix系统编程手册》读书笔记24章**
  • .Family_物联网
  • .Net Core与存储过程(一)
  • .net web项目 调用webService
  • .NET 线程 Thread 进程 Process、线程池 pool、Invoke、begininvoke、异步回调
  • .NET/C# 利用 Walterlv.WeakEvents 高性能地定义和使用弱事件
  • .NET/C# 在代码中测量代码执行耗时的建议（比较系统性能计数器和系统时间）...
  • .NET和.COM和.CN域名区别
  • .NET面试题解析(11)-SQL语言基础及数据库基本原理
  • /proc/vmstat 详解
  • @property python知乎_Python3基础之：property
  • @取消转义
  • [ 第一章] JavaScript 简史
  • [AutoSar]BSW_Memory_Stack_004 创建一个简单NV block并调试
  • [AX]AX2012 R2 出差申请和支出报告