1回答
我正在使用Colab和Py火炬CUDA作为我的深入学习项目，并面临着无法释放GPU的问题。我在这里读过一些相关的文章，但它们并没有解决我的问题。请指导我如何释放GPU内存。提前谢谢你
浏览 9提问于2022-11-07得票数 0
1回答
我正在PyTorch中运行一个评估脚本。我有一些经过训练的模型(*.pt文件)，我加载并移动到GPU，总共有270兆的GPU内存。我使用的批处理大小为1。对于每一个样本，我加载一个图像，并将它移动到GPU。然后，根据样本的不同，我需要运行这些经过训练的模型序列。有些模型有一个张量作为输入和输出。其他模型有一个张量作为输入，而字符串作为输出。序列中的最终模型总是有一个字符串作为输出。中间张量暂时存储在字典中。当模型消耗了张量输入时，使用del删除它。不过，我注意到在每个示例之后，GPU内存一直在增加，直到整个内存都满了。with torch.n
浏览 4提问于2020-09-03得票数 1
我得到了以下错误：cfg = get_cfg()
cfg.merge_from_file(model_zoo.get_config_file("C
浏览 4提问于2022-10-07得票数 0
1回答
我正在使用Cuda和Pytorch:1.4.0。CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 4.00 GiB total capacity; 2.74 GiB already allocated; 7.80 MiB free; 2.96 GiB reserved in total by PyTorch)另外，我不明白为什么我只有7.80的mib？
我应该使用性能更好的录像机，还是可以释放一些内存？FYI，我有一个GTX
浏览 3提问于2020-02-18得票数 3
回答已采纳
1回答
，我试图手动删除该管道，但没有成功： del obj torch.cuda.empty_cacheclean_object_from_memory( clean_object_from_memory) # callingdef dump_tensors(gpu_only=True):
torch.cuda.empty_cache
浏览 20提问于2018-09-06得票数 16
回答已采纳
1回答
我在使用火炬和数据自动化系统上遇到了麻烦。有时它工作得很好，其他时候它告诉我RuntimeError: CUDA out of memory.，但是我很困惑，因为检查nvidia-smi显示我的卡的使用内存是563MiB / 6144 MiB，理论上这应该使5GiB可用。
然而，在运行我的程序时，我会收到这样的消息：RuntimeError: CUDA out of memory. Tried to allocate 578.00 MiB (GPU 0; 5.81 GiB total capacity; 670.69 MiB already allocated; 624.31 MiB f
浏览 8提问于2022-05-30得票数 9
我正尝试用SloMo 将视频转换成高FPS镜头我真的不知道那里发生了什么，我对此几乎没有疑问。
因此，当我在此过程中查看任务管理器时，只加载了CPU，而Gpu没有加载，那么它正确吗？就像GPU可以处理thoes
浏览 3提问于2019-12-12得票数 1
回答已采纳
使用CUDA相对较新。在一段看似随机的时间后，我一直收到以下错误: RuntimeError: CUDA error:遇到非法内存访问 我看到人们建议使用cuda.set_device()而不是cuda.device()，设置torch.backends.cudnn.benchmark = False 但我似乎不能让这个错误消失。下面是我的一些代码片段：torch.cuda.set_device(torch.device('cuda:0')) torch.backends.cudnn.benchmark = False class LSTM(nn.Module):
d
浏览 69提问于2021-06-24得票数 2
我正在尝试使用来自另一个python脚本的不同参数(argparse)来运行相同的pytorch训练脚本。我也在使用os.system()做同样的事情。 这是我想做的- train.py =>包含训练循环的脚本。 runner.py =>循环运行序列脚本的文件。 # runner.py os.system(f"CUDA_VISIBLE_DEVICES=1 python train.py --arg1 hp") 一些模型得到了训练，但我最终得到了CUDA内存不足的错误。例如，如果有10个模型，它将成功训练8个模型
浏览 27提问于2021-04-12得票数 1
回答已采纳
1回答
我试过了 for data in (dataloader): torch.cuda.empty_cache() torch.cuda.empty_cache
浏览 32提问于2021-11-14得票数 0
1回答
Ubuntu20.04中是否有黑客可以在无需重新启动机器的情况下从内存错误中删除以下CUDA？我知道，以下的作品，但也杀死了我的木星笔记本。有没有办法在不用杀死木星笔记本的情况下释放GPU中的内存？Tue Oct 6 20:28:05 2020
+-------------
浏览 0提问于2020-10-07得票数 2
回答已采纳
我想过像del和torch.cuda.empty_cache()这样的方法，但是del似乎不能正常工作(我甚至不确定它是否释放了内存)，torch.cuda.empty_cache()似乎释放了所有未使用的内存
浏览 2提问于2019-11-19得票数 2
import torchdel aa = torch.zeros(300000000, dtype=torch.int8)del a为什么会发生这种事
浏览 8提问于2020-09-08得票数 2
回答已采纳
我尝试了以下代码。当try中的代码由于CUDA内存不足而失败时，我将except中的批处理大小减少了一半，但它仍然出现了在except中运行模型的相同问题，但我确信一半的批处理大小是可运行的，因为我尝试在except中直接运行代码，而不尝试完整的批处理。它工作得很好。顺便问一下，有没有办法自动设置批处理大小，以充分利用CUDA内存而不会溢出？ output = model(Variable(torch.LongTensor(np.array(x))).to(device),Variable(torch.LongTensor(np.array(pos))).to(device)
浏览 2提问于2018-12-19得票数 3
1回答
这很奇怪，因为我已经使用nnUNet训练了几个模型，现在突然间，在它开始第一个时代之前，我就得到了这个错误。完全错误是：Traceback (most recent call last): sys.exit(main())
File "/home/viberti/miniconda3/lib/python3.9/site-packages/nnunet/run/run_train
浏览 14提问于2022-08-29得票数 0
我教授了我的神经网络，并意识到即使在torch.cuda.empty_cache()和gc.collect()之后，我的cuda设备内存也是满的。
浏览 3提问于2021-11-30得票数 0
我正在FastAPI码头容器中运行稳定扩散。它运行良好，但在执行多个推理调用后，我注意到GPU的vRAM已满，推理失败。这就好像在进行推断之后内存没有被释放一样。知道如何强制释放记忆吗？以下是main.py中的脚本import osimport timefrom diffusers import StableDiffusionPipelinefrom fastapi.staticfiles
浏览 40提问于2022-10-17得票数 0
据我所知，在使用GPU对模型进行训练和验证时，GPU内存主要用于加载数据、向前和向后。据我所知，我认为GPU内存的使用应该是相同的:1)训练前，2)训练后，3)验证前，4)验证后。但在我的例子中，验证阶段使用的GPU内存仍然处于训练阶段，反之亦然。它并不是每一个时代都在增加，所以我确信这不是一个像loss.item()这样的常见错误。不应该先清理一个阶段使用的GPU内存(模型权重除外)？(如果应该的话)，我在这里犯了什么错误吗？这是训练循环的代码prin
浏览 15提问于2022-09-08得票数 3
回答已采纳
我在Jupyter-Lab笔记本电脑上训练PyTorch深度学习模型，在特斯拉K80图形处理器上使用CUDA进行训练。在进行训练迭代时，使用12 GB的GPU内存。我通过保存模型检查点来完成训练，但希望继续使用笔记本进行进一步分析(分析中间结果等)。到目前为止，我的解决方案是重新启动这个笔记本的内核，但这并没有解决我的问题，因为我不能继续使用相同的笔记本及其到目前为止计算出的各自的输出。
浏览 0提问于2019-09-10得票数 21
云服务器
ICP备案
云直播
腾讯会议
对象存储
腾讯云开发者
