关于backward()的pytorch问题。在下面复制和粘贴的pytorch 中，它们将向量[0.1, 1.0, 0.0001]传递给backward()。我可以直观地猜测为什么传入的向量[0.1, 1.0, 0.0001]形状是3，但我不明白值0.1，1.0，0.0001从哪里来。我看过的另一个教程中的向后向量传递是这样完成的：L.backward(torch.ones(L.s
浏览 8提问于2019-10-29得票数 0
回答已采纳
1回答
在pytorch中，我训练RNN/GRU/LSTM网络，方法是启动反向传播(通过时间)：当序列很长时，我希望通过时间进行截断的反向传播，而不是使用整个序列的时间进行正常的反向传播但是，我在Pytorch中找不到任何参数或函数来设置截断的BPTT。我错过了吗？我应该自己在毕道尔编码吗？
浏览 3提问于2018-12-24得票数 6
我一直在使用这里提供的代码的resnet56模型：。我注意到这个实现与许多其他在线可用的ResNet示例不同，我想知道PyTorch使用损耗()的反向传播算法是否可以解释所提供的代码中的lambda层和快捷方式。如果是这样的话，是否有人能深入了解PyTorch如何能够为反向传播解释lambda层(例如，PyTorch如何知道如何区分该层的
浏览 4提问于2020-01-19得票数 1
回答已采纳
假设我们已经训练了一个网络模型，我想从输出层反向传播到输入层(而不是第一层)，以获得新的输入数据。我想知道pytorch中是否有函数或其他现有函数可以实现此函数，我在pytorch教程中找不到相关函数。
浏览 22提问于2021-02-03得票数 0
1回答
为了让我的神经网络工作，我在找出正确的参数时遇到了问题。我想实现数字识别使用Mnist数据集的60.000 26x26图像。我还了解到将数据分割成多个“块”是有意义的，但我还有几个问题:每个块有多少张图像？如何设定学习速度？每个块有多少反向传播周期？你知道有用的文章吗，我可以在那里得到这样的信息？
浏览 0提问于2018-12-11得票数 0
回答已采纳
我遇到了一个问题，我在pytorch 0.4.1中训练我的模型，但我找不到一个工具来将它转换为caffe模型。如何使用init pytorch 0.2.0的pytorch 0.4.1 model
或者如何将pytorch 0.4.1 model转换为caffe model
浏览 12提问于2018-09-12得票数 0
2回答
我在Jupyter Notebook上的Python 3.6上使用Pytorch版本0.4.0。代码生成长度为20的输出向量。现在，我想找出这个输出向量的梯度w.r.t所有的权重(总共47个)。我已经在上阅读了Pytorch的文档。我也看到过类似的问题，例如，。但是，我找不到输出向量w.r.t参数的梯度。如果我使用Pytorch函数backward()，它会生成一个错误，如下所示
浏览 4提问于2018-05-04得票数 4
1回答
我有一个关于Drake中自动区分(AD)的问题。如果有人用python为系统编写DAE，Drake如何计算用于优化的导数？它在后端是否有AD包，或者它使用有限差分。另外，它如何实现四元数表示的积分和微分。非常感谢您提前抽出时间。
浏览 3提问于2021-05-20得票数 1
1回答
PyTorch是否支持类似dict的对象，通过这些对象我们可以反向传播梯度，比如PyTorch中的张量？
我的目标是计算一个大型矩阵中的几个元素(1%)的梯度。但是如果我使用PyTorch的标准张量来存储矩阵，我需要将整个矩阵保存在我的GPU中，这会导致由于在训练期间可用的GPU内存有限而造成的</em
浏览 6提问于2022-03-08得票数 2
1回答
我使用pytorch来评估前馈网络的梯度，但只用于与前两层相关的参数子集。由于反向传播是逐层进行的，我想知道:为什么计算速度快于计算整个网络的梯度？
浏览 5提问于2022-08-23得票数 1
在我发现的一行我看到的这个Variable是什么？当我使用IDE查找定义时，它会说“没有找到变量的定义”，这让我怀疑它是python中的一个标准函数。我显然不能为python搜索“变量”，因为我会得到关于python中变量的无数定义。有人见过
浏览 1提问于2020-08-03得票数 0
回答已采纳
1回答
我知道在PyTorch中，优化器是通过在训练循环中，我们必须向后执行loss.backward()但是，损失是如何与模型参数相关联的呢？因为我们只定义优化器和模型之间的连接，而从不定义损失和模型之间的关联。当我们执行loss.backward()时，PyTorch如何知道我们将为我们的
浏览 8提问于2022-08-20得票数 0
我是个新手，开始使用这 github代码。我不理解代码"because weights have requires_grad=True, but we don't need to track this in autograd"中第60-61行中的注释我知道我们提到的变量是requires_grad=True，我们需要这些变量来计算使用自梯度的梯度，但是成为"tracked by autograd"意味着什么呢？
浏览 0提问于2018-06-05得票数 67
回答已采纳
我是PyTorch的新手，我很难理解loss是如何知道如何通过loss.backward()计算梯度的？当然，我知道参数需要有requires_grad=True，并且我知道它将x.grad设置为适当的梯度，以便优化器稍后执行梯度更新。当我有两个不同的
浏览 2提问于2019-11-14得票数 3
1回答
我正在尝试实现一个基于自动梯度的非线性PDE求解器。和大多数PDE一样，我需要能够在输入向量的单个条目中操作，但显然这破坏了自动梯度。我创建了这个简单的例子来展示我所面临的问题：def my_equation(x): return eq
谢谢!
浏览 2提问于2019-12-10得票数 0
回答已采纳
1回答
神经网络命名规则
、、
神经网络有什么标准的命名约定吗？我对神经网络的编程还很陌生，但我注意到很多教程和书籍之间的一致性，我想熟悉命名约定，但找不到任何来源。一个例子是'X‘通常是大写的，'y’是数据集的小写。
浏览 4提问于2018-01-27得票数 1
回答已采纳
1回答
例如，一个使用MNIST数据集，并将所提供的大小为60,000的培训数据拆分为一个培训集(50,000)和一个验证集(10,000)。所提供的大小为10,000的测试数据用作测试集。然后，计算梯度，并通过反向传播更新权重。loss_function(prediction, label) optimizer.step()据我所知，验证集用于超参数调优for parameter in mode
浏览 0提问于2021-02-03得票数 0
回答已采纳
2回答
我是Pytorch和机器学习的新手，我将按照本教程中的教程操作，并使用我的自定义数据集。然后我在这个教程中遇到了同样的问题，但我不知道如何在pytorch中提前停止，如果你有更好的方法而不创建提前停止进程，请告诉我。
浏览 31提问于2020-02-13得票数 2
2回答
[ 0.3200, 0.2914],因此，第一个张量优先于softmax，第二个张量是softmax应用于dim=-1的张量的结果，第三个张量是softmax应用于具有dim=1的张量的结果。对于第一个==的结果，可以看到相应的元素和为1，例如0.4565，0.5435 -> 0.4565 + 0.5435 softmax 1。
第二个softmax的结果为1的总和是什么？这是
浏览 1提问于2018-09-26得票数 5
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
云直播
实时音视频活动推荐
腾讯云开发者
