首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >PyTorch `torch.no_grad` vs `torch.inference_mode`

PyTorch `torch.no_grad` vs `torch.inference_mode`
EN

Stack Overflow用户
提问于 2021-10-12 16:21:23
回答 1查看 348关注 0票数 2

从v1.9开始,PyTorch有了新的功能torch.inference_mode,即"analogous to torch.no_grad……在这种模式下运行的代码可以通过禁用视图跟踪和版本计数来获得更好的性能。“

如果我只是在测试时评估我的模型(即不是训练),是否有任何情况下torch.no_gradtorch.inference_mode更可取?我计划将前者的每个实例替换为后者,并且我希望使用运行时错误作为屏障(即,我相信任何问题都会暴露为运行时错误,如果它不是运行时错误,那么我认为使用torch.inference_mode确实更可取)。

the PyTorch Developer Podcast中提到了更多关于为什么开发推理模式的详细信息。

EN

Stack Overflow用户

回答已采纳

发布于 2021-10-13 16:54:09

是的,在推理模式不抛出运行时错误的所有情况下,torch.inference_mode都是indeed preferable to torch.no_grad

票数 1
EN
查看全部 1 条回答
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/69543907

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档