腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(4679)
视频
沙龙
1
回答
Pytorch
不会
通过
迭代
张量
构造
进行
反向
传播
、
、
我目前正在尝试在
Pytorch
中
迭代
构建
张量
。遗憾的是,backprop不能与循环中的inplace操作一起工作。例如,我已经尝试过使用堆栈的等效程序。有没有人知道我如何用一个正常工作的支撑物来构建
张量
?remaining_sticks latent_variables.sum().backward() 堆栈跟踪: /opt/conda/conda-bld/
pytorch
浏览 36
提问于2019-12-18
得票数 0
回答已采纳
1
回答
多输出的前向函数?
、
、
这样的返回值
不会
使
反向
传播
或自动梯度混乱吗?如果是这样的话,您将如何处理在损失函数中包含多个输入函数的情况? (这个问题在tensorflow中也是有效的。)
浏览 5
提问于2022-07-11
得票数 0
回答已采纳
1
回答
PyTorch
中的Dict支持
、
、
PyTorch
是否支持类似dict的对象,
通过
这些对象我们可以
反向
传播
梯度,比如
PyTorch
中的
张量
?到目
浏览 6
提问于2022-03-08
得票数 2
1
回答
在火炬中截断时间的
反向
传播
(BPTT)
、
、
在
pytorch
中,我训练RNN/GRU/LSTM网络,方法是启动
反向
传播
(
通过
时间):当序列很长时,我希望
通过
时间
进行
截断的
反向
传播
,而不是使用整个序列的时间
进行
正常的
反向
传播
但是,我在
Pytorch
中找不到任何参数或函数来设置截断的BPTT。我错过了吗?我应该自己在毕道尔编码吗?
浏览 3
提问于2018-12-24
得票数 6
1
回答
带喷炬的平均计算图
、
、
我写这封信是因为我要应付以下情况:在训练期间,我需要一个在
pytorch
的前向函数中的for循环。self.netFeaturesExtractor(ima) id_stack += 1def forward(self, input_sinogram, sos): [variables declaration..for param in
浏览 1
提问于2022-06-28
得票数 0
2
回答
PyTorch
线性代数梯度
、
、
为了正则化的目的,我希望
通过
奇异值分解来
反向
传播
梯度。
PyTorch
目前不支持
通过
奇异值分解
进行
反向
传播
。我知道我可以编写自己的自定义函数来操作变量;获取它的.data
张量
,对其应用torch.svd,将变量包装在它的奇异值周围,并在向前传递中返回它,然后在向后传递中将适当的雅可比矩阵应用于传入的梯度。我认为这些步骤也同样适用于目前没有相关
反向
方法的其他线性代数操作。
浏览 5
提问于2017-06-29
得票数 10
2
回答
loss.backward()与模型的适当参数有何关系?
、
、
我是
PyTorch
的新手,我很难理解loss是如何知道如何
通过
loss.backward()计算梯度的?优化器在实例化时链接到模型参数,但损失永远
不会
链接到模型。 我一直在
通过
,但我认为没有人清楚地回答了这个问题,这个帖子的发起人似乎和我有同样的问题。
浏览 2
提问于2019-11-14
得票数 3
1
回答
获取
Pytorch
autograd用于计算梯度的精确公式
、
、
我已经
通过
自定义模块的参数手动计算了
反向
传播
的正确公式,我希望查看它们是否与autograd内部用于计算梯度的公式匹配。有没有办法看到这一点?我计算了这一层的
反向
传播
公式,假设我们有来自更高层的传入梯度。(由于
Pytorch
目前还不支持复值
张量
反向
传播
,我已经
通过
处理单独的实
张量
和虚
张量
创建了自己的复数表示)
浏览 45
提问于2020-09-11
得票数 1
1
回答
PyTorch
丢失()和
反向
传播
是否理解lambda层?
、
、
、
我注意到这个实现与许多其他在线可用的ResNet示例不同,我想知道
PyTorch
使用损耗()的
反向
传播
算法是否可以解释所提供的代码中的lambda层和快捷方式。如果是这样的话,是否有人能深入了解
PyTorch
如何能够为
反向
传播
解释lambda层(例如,
PyTorch
如何知道如何区分该层的操作)?
浏览 4
提问于2020-01-19
得票数 1
回答已采纳
1
回答
PyTorch
中的可微图像压缩操作
、
、
、
在CNN分类模型训练中,在计算损失时,我在
PyTorch
中对图像应用编码jpeg压缩。当我调用loss.backward()时,它还必须
通过
对图像执行的编码和压缩操作
进行
反向
传播
。这些压缩算法(例如编码和JPEG压缩)是否是可微的,否则如何
通过
这些操作
反向
传播
损失梯度? 如果这些操作不是可微的,那么在执行H.264编码和JPEG压缩的
PyTorch
中是否存在可微压缩算法?
浏览 9
提问于2020-04-10
得票数 2
1
回答
如何将火炬损耗与模型参数连接起来?
、
、
、
、
我知道在
PyTorch
中,优化器是
通过
在训练循环中,我们必须向后执行,并
通过
执行这两行来更新梯度。当我们执行loss.backward()时,
PyTorch
如何知道我们将为我们的model做
反向
传播
import torch import torch.nn as nn
浏览 8
提问于2022-08-20
得票数 0
2
回答
什么是第一次初始化重量在喷炬卷积层
、
、
、
学习 在您所使用的代码中,您已经显式地设置了过滤器权重的值,但是神经网络在对一组图像数据
进行
训练时实际上将学习最佳的过滤器权重。在本节的后面,您将了解到这类神经网络的所有情况,但您知道高通和低
通过
滤器是定义这种网络行为的原因,并且您知道如何从零开始编写这些代码!
PyTorch
如何更新卷积层中的权重?
浏览 2
提问于2018-12-31
得票数 1
回答已采纳
2
回答
学习率对后背助力梯度的影响
、
、
我想知道在神经网络层的
反向
传播
过程中,是否设置了学习速率来更新权重。重量是如何和在哪里更新的? 我看不到优化器、学习率和
反向
传播
函数之间的联系。
浏览 4
提问于2021-09-14
得票数 1
回答已采纳
1
回答
如何将TensorFlow
张量
转换为
PyTorch
张量
而不转换成Numpy数组?
、
、
、
我想在Tensorflow中使用一个预先训练过的
Pytorch
模型,并且我需要将tensorflow
张量
转换为
pytorch
张量
。但是,我不想将Py手电筒
张量
转换为numpy数组,并将其转换为tensorflow
张量
,因为我得到的错误是“您必须为占位符
张量
提供一个值”。当我制作图形时,我需要这个转换,这样tensorflow
张量
就没有价值了,并且不能转换为numpy!有什么解决办法吗?
浏览 5
提问于2021-01-24
得票数 2
回答已采纳
1
回答
基于off索引的结构
张量
、
、
我正在尝试基于相应的索引
张量
连接多个
张量
。作为一个玩具示例,我有一个具有相应索引向量B = [0,1]的
张量
A = [[0,1,2],[2,3,4]]和另一个具有相应索引向量D = [0,1,2]的
张量
C = [[5,6,7],[8,9,10]我正试图有效地做到这一点,因为它包含在我的NN模型中,并且在
反向
传播
期间可能会受到性能问题的影响。我能够做到这一点,
通过
构造
一个字典和循环如下: E = defaultdict(list) for vector,
浏览 17
提问于2019-05-14
得票数 1
1
回答
由于未初始化
张量
而导致的错误
、
、
我有一个代码,它接收2个
张量
,并将它们转换为numpy数组,然后执行一些操作,将结果转换回
张量
并返回它。我有一些与此相关的错误。然而,当我单独使用它时,这个函数工作得很好,即提供两个
张量
,然后分析返回值。 我尝试过在函数内部
进行
初始化,但是都没有解决这个问题。
浏览 33
提问于2019-05-17
得票数 0
3
回答
了解
PyTorch
中的
反向
传播
、
、
、
、
我正在探索
PyTorch
,但我不理解以下示例的输出:x = torch.tensor(4., requires_grad
浏览 2
提问于2021-09-28
得票数 3
1
回答
为什么我在
Pytorch
中加载的模型中没有参数梯度,即使在backword之后也是如此?
、
、
、
、
我有一个预先训练好的模型,它是由现在我重新加载它,并尝试计算fisher信息矩阵,如下所示:batch_size = 32my_model.eval() # I tried to comment this off, but still no luck for n, p in deepcopy({n: p for n, p
浏览 169
提问于2020-06-06
得票数 0
回答已采纳
1
回答
为什么在
PyTorch
中有两个不同的标志来禁用梯度计算
、
、
我是
PyTorch
的中级学习者,在最近的一些案例中,我看到人们使用torch.inference_mode()而不是著名的torch.no_grad()来验证经过训练的agent在强化学习(RL)实验中的有效性
浏览 53
提问于2022-10-25
得票数 -1
1
回答
4维权重的期望四维输入[6,1,5,5],但却得到了尺寸[1,28,28]的三维输入。
、
、
download=True, transform=transform_list) tmp 我如何
通过
建立一个良好的网络来解决这个问题
浏览 2
提问于2021-07-14
得票数 1
回答已采纳
点击加载更多
相关
资讯
PyTorch经验指南:技巧与陷阱
Pytorch 学习引发的思考
从头开始了解PyTorch的简单实现
使用PyTorch Profiler进行模型性能分析,改善并加速PyTorch训练
PyTorch:深度学习开发的 Py一级加速!
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
云直播
活动推荐
运营活动
广告
关闭
领券