Loading [MathJax]/jax/output/CommonHTML/config.js

开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

社区首页 >问答首页 >Add_graph“不能插入要求梯度作为常量的张量”

问Add_graph“不能插入要求梯度作为常量的张量”
EN

Stack Overflow用户

提问于 2022-01-17 13:13:33

回答 1查看 627关注 0票数 1

我正在尝试使用torch.utils.tensorboard记录我的神经网络结构。但是，当我使用作者的add_graph函数时，出现了以下错误：

Cannot insert a Tensor that requires grad as a constant. Consider making a parameter or input, or detaching the gradient.

然后打印一个形状张量(512,512)，它等于模型输入和输出维的一个隐藏层。

我使用的代码如下：

from torch.utils.tensorboard import SummaryWriter
writer = SummaryWriter()
input_tensor = torch.Tensor(...., require_grads=False)
writer.add_graph(model, input_tensor)

我在谷歌上搜索了一下，但只找到了几个错误信息相同但原因完全不同的帖子。

这些图书馆的版本如下：

Python 3.8.12
pytorch                   1.10.1     py3.8_cuda11.3_cudnn8.2.0_0    pytorch
cudatoolkit               11.3.1
tensorboard                   2.7.0
CUDA Version: 11.2

EN

回答 1

Stack Overflow用户

发布于 2022-08-30 11:10:36

如果不看到你的模型，就很难回答这个问题。我相信正在发生的是，你的模型有悬挂层，其中有(例如)卷积张量，没有传递给gpu，所以不是参数。

试着跑：

model.cuda()
model.parameters()

看看你能不能得到你想要的模型。

票数 0

EN

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/70747578

复制

相关文章

TensorFlow 2.0 - 张量/自动求导/梯度下降

机器学习 tensorflow apply gradient 优化

文章目录 1. 张量 2. 自动求导、梯度下降学习于：简单粗暴 TensorFlow 2 1. 张量 import tensorflow as tf print(tf.__version__) # 2.3.1 random_float = tf.random.uniform(shape=()) # tf.Tensor(0.80420315, shape=(), dtype=float32) zero_vec = tf.zeros(shape=(2)) # tf.Tensor([0. 0.], shap

Michael阿明

2021/02/19

1K0

PyTorch进阶之路（一）：张量与梯度

https 网络安全 numpy pytorch python

本系列教程旨在让用户更好地利用 PyTorch 学习深度学习和神经网络。本文将介绍 PyTorch 模型的基本构件：张量和梯度。

机器之心

2019/03/19

1K0

PyTorch进阶之路（一）：张量与梯度

快速入门Pytorch(1)--安装、张量以及梯度

numpy pytorch https 网络安全编程算法

https://pytorch.org/tutorials/beginner/deep_learning_60min_blitz.html

kbsc13

2019/08/16

7910

IP不能作为rocketmq 的topic

正则表达式

org.apache.rocketmq.client.exception.MQClientException: The specified topic[182.16.226.45] contains illegal characters, allowing only ^[%|a-zA-Z0-9_-]+$ For more information, please visit the url, http://rocketmq.apache.org/docs/faq/ at org.apache.rock

MickyInvQ

2020/09/27

9870

插入有序的单链表(要求插入后元素有序排列)

某校实验室有一批计算机，按其价格从低到高的次序构成了一个单链表存放，链表中每个结点指出同样价格的若干台。现在又增加m台价格为h元的计算机，编程实现实验室计算机单链表中增加计算机的算法。

别团等shy哥发育

2023/02/27

6560

插入有序的单链表(要求插入后元素有序排列)

tf.stop_gradient

停止梯度计算。当在一个图中执行时，这个op按原样输出它的输入张量。当构建ops来计算梯度时，该op会阻止将其输入的贡献考虑在内。通常情况下，梯度发生器通过递归找出对其计算有贡献的输入，将ops添加到图中，计算指定“损失”的导数。如果将这个op插入到图中，它的输入将被梯度生成器屏蔽。它们没有考虑到计算梯度。当你想用TensorFlow计算一个值，但需要假设该值是常量时，这是非常有用的。一些例子包括:

狼啸风云

2019/06/17

2.1K0

重要|RAID不能作为备份系统使用

nginx code error 备份磁盘

最近链家删库跑路事件闹得沸沸扬扬，就有人说准备使用RAID冗余磁盘阵列防止这等事件，仔细想想，防止删库和RAID有毛关系？为了防止不必要的事情发生，这里简单做个RAID的科普。

用户5166556

2023/03/18

1.3K0

重要|RAID不能作为备份系统使用

PyTorch 中的多 GPU 训练和梯度累积作为替代方案

分布式 pytorch gpu 模型数据

在本文[1]中，我们将首先了解数据并行（DP）和分布式数据并行（DDP）算法之间的差异，然后我们将解释什么是梯度累积（GA），最后展示 DDP 和 GA 在 PyTorch 中的实现方式以及它们如何导致相同的结果。

数据科学工厂

2023/08/10

4670

PyTorch 中的多 GPU 训练和梯度累积作为替代方案

Mysql数据库insert into select 单表插入常量

sql https java 网络安全其他

INSERT INTO tb1 (col1, col2) VALUES (val1,val2 ) 可以解决最基本的插入数据的问题，而这种数据只是自定义的常量。如果我们想在表中插入表格中已有的数据呢？显然需要其他的方法。

全栈程序员站长

2022/09/13

2.3K0

pytorch tensorboard使用_铅球是什么体育X项目

tensorflow pytorch 编程算法神经网络 python

Tensorboard 是 TensorFlow 的一个附加工具，可以记录训练过程的数字、图像等内容，以方便研究人员观察神经网络训练过程。可是对于 PyTorch 等其他神经网络训练框架并没有功能像 Tensorboard 一样全面的类似工具，一些已有的工具功能有限或使用起来比较困难 (tensorboard_logger, visdom等) 。TensorboardX 这个工具使得 TensorFlow 外的其他神经网络框架也可以使用到 Tensorboard 的便捷功能。TensorboardX 的 github仓库在这里。

全栈程序员站长

2022/11/18

6980

可变数据类型不能作为python函数的参数

编程算法 python

当使用列表作为参数传入函数时，实际上是引用传递。也就是传入的是实际参数的地址，而place=b也就是指向相同的地址。比如以下的：

西西嘛呦

2020/10/28

1.6K0

React报错之组件不能作为JSX组件使用

https 网络安全 react ide linux

原文链接：https://bobbyhadz.com/blog/react-cannot-be-used-as-a-jsx-component[1]

chuckQu

2022/08/19

2.4K0

numpy tensorflow python 深度学习

斯蒂文查了查 2019 年 1 月 3 日平安银行 (000001.XSHE) 的收盘价，发现是 9.28，他默默将这个单数字存到 X0 里。

用户5753894

2019/07/05

2.9K0

pytorch和tensorflow的爱恨情仇之张量

编程算法 tensorflow pytorch

pytorch和tensorflow的爱恨情仇之基本数据类型：https://www.cnblogs.com/xiximayou/p/13759451.html

西西嘛呦

2020/10/10

2.3K0

pytorch和tensorflow的爱恨情仇之张量

张量的结构操作

numpy api pytorch 编程算法

Pytorch提供的方法比numpy更全面，运算速度更快，如果需要的话，还可以使用GPU进行加速。

lyhue1991

2020/07/20

2K0

编程算法 tensorflow

在TensorFlow系统中，张量的维数来被描述为阶.但是张量的阶和矩阵的阶并不是同一个概念.张量的阶（有时是关于如顺序或度数或者是n维）是张量维数的一个数量描述.比如，下面的张量（使用Python中list定义的）就是2阶.

润森

2019/11/04

9190

指针常量和常量指针的区别_指针常量能指向常量吗

编程算法 java https 网络安全

本质上一个常量，指针用来说明常量的类型，表示该常量是一个指针类型的常量。在指针常量中，指针自身的值是一个常量，不可改变，始终指向同一个地址。在定义的同时必须初始化。用法如下：

全栈程序员站长

2022/08/02

2K0

[翻译] TensorFlow 分布式之论文篇 "Implementation of Control Flow in TensorFlow"

tensorflow 分布式编程算法面向对象编程

读论文有一种原则是：本领域最经典的论文，近5年最热的论文，近1年最新的论文。按照这个原则，本文主要介绍一篇Tensorflow 经典论文 Implementation of Control Flow in TensorFlow。

罗西的思考

2022/05/09

10.6K0

[翻译] TensorFlow 分布式之论文篇 "Implementation of Control Flow in TensorFlow"

张量的数学运算

pytorch numpy api

Pytorch提供的方法比numpy更全面，运算速度更快，如果需要的话，还可以使用GPU进行加速。

lyhue1991

2020/07/20

2.8K0

TensorFlow 基础实战

tensorflow api 编程算法机器学习神经网络

Tensorflow 是干嘛的，就不过多赘述了，小伙伴们可以访问官网来详细了解 https://www.tensorflow.org/

周萝卜

2019/07/17

8860

TensorFlow 基础实战

相似问题

如何只要求某些张量元素的梯度？

15

RuntimeError:只有浮点dtype的张量才能要求梯度

12

只有浮点和复dtype的张量才能要求梯度。

16

R火炬中张量的梯度不能修改

13

张量运算与梯度

11

添加站长进交流群

领取专属 10元无门槛券

AI混元助手 在线答疑

关注 腾讯云开发者公众号

洞察 腾讯核心技术

剖析业界实践案例