如何通过删除张量来释放gpu内存？
如何通过删除张量来释放gpu内存？
提问于 2019-04-22 01:04:21
假设我创建了一个张量，并将它放在GPU上，以后不需要它，并且希望释放分配给它的GPU内存；我该如何做呢？
import torch
a=torch.randn(3,4).cuda() # nvidia-smi shows that some mem has been allocated.
# do something
# a does not exist and nvidia-smi shows that mem has been freed.我试过：
del adel a; torch.cuda.empty_cache()
但它们都不管用。
Stack Overflow用户
回答已采纳
发布于 2019-04-22 12:43:09
运行del tensor会将内存从GPU中释放出来，但不会将其返回给设备，这就是为什么内存仍然显示在nvidia-smi上。您可以创建一个新的张量，这将重用该内存。
资料来源
https://discuss.pytorch.org/t/how-to-delete-pytorch-objects-correctly-from-memory/947 https://discuss.pytorch.org/t/about-torch-cuda-empty-cache/34232
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/55788093
复制相关文章
相似问题
腾讯云开发者
