torch.cuda.empty_cache()
原理
torch.cuda.empty_cache()
是PyTorch中用来释放未被分配的缓存的内存的函数。在使用GPU进行计算时,CUDA会在内部维护一个内存缓存池,以便更快地分配和释放。但有时候,这些缓存的内存在不再需要的时候,它们不会被自动返回到操作系统。
torch.cuda.empty_cache()
会释放这些未被使用的缓存内存,所以其他程序或者同一程序的其他部分可以使用这些资源。
用法
import torch
torch.cuda.empty_cache()