外包网站建设合肥专业网站建设公司哪家好

torch.cuda.empty_cache()

原理

torch.cuda.empty_cache() 是PyTorch中用来释放未被分配的缓存的内存的函数。在使用GPU进行计算时，CUDA会在内部维护一个内存缓存池，以便更快地分配和释放。但有时候，这些缓存的内存在不再需要的时候，它们不会被自动返回到操作系统。

torch.cuda.empty_cache() 会释放这些未被使用的缓存内存，所以其他程序或者同一程序的其他部分可以使用这些资源。

用法

# 当感觉到GPU内存紧张或者在删除了大量数据之后，可以调用
import torch
torch.cuda.empty_cache()