Pytorch:权重不更新

文章/答案/技术大牛

发布

1回答

python、pytorch、gradient

我正在尝试训练一个模型，但它不起作用，因为当我调用以下代码时，权重没有更新：(total_loss * 10).backward()当我打印权重时

浏览 33提问于2020-05-18得票数 0

1回答

Pytorch模型不更新权重

python、pytorch

我试图用pytorch解决CartPole问题，但是在几次迭代之后，参数没有更新。我试图重现的代码是在keras中编写的代码。

浏览 3提问于2019-10-10得票数 0

2回答

使用torch.no_grad()的目的是什么：

python、machine-learning、pytorch、linear-regression、gradient

考虑使用PyTorch实现线性回归的下列代码： X是输入，Y是训练集的输出，w是需要优化的参数。

浏览 27提问于2022-06-05得票数 4

1回答

pytorch -在pytorch和keras中实现相同的模型，但得到不同的结果

keras、pytorch

我正在学习pytorch，并想用一个seq2seq示例()来练习它，这是一个keras 101示例，它在字符级别的特征(没有嵌入)上将eng转换为fra。print('Input sentence:', input_texts[seq_index])我想用pytorch.to(device) # encoder_loss = nn.CrossEntropyLoss() # CrossEntropyLoss compute

浏览 4提问于2019-08-10得票数 0

1回答

PyTorch optimizer.step()函数不更新权重

python、deep-learning、pytorch、perceptron

澄清一下，我刚刚开始使用PyTorch学习深度学习，所以这可能是一个非常新的问题。我试过寻找解决办法，但没有运气。我还比较了我的代码和其他代码的工作，但我不知道我做错了什么。

浏览 1提问于2018-12-04得票数 2

回答已采纳

1回答

在pytorch中conv的默认权重初始化器是什么？

pytorch、initializer

问题展示了如何在Pytorch中初始化权重。但是，Conv和Dense在Pytorch中的默认权重初始化器是什么？Pytorch使用什么发行版？

浏览 0提问于2018-04-13得票数 15

回答已采纳

1回答

A2C中的梯度计算

tensorflow、pytorch、reinforcement-learning

在A2C中，参与者和评论家算法通过方程更新权重：θ=θ+α*δ*Grad(log(PI(a_s，θ))和所以我的问题是，当使用神经网络实现这一点时，谢谢，乔恩

浏览 2提问于2020-01-27得票数 0

回答已采纳

1回答

数据格式和实际形状

tensorflow、pytorch

我正在尝试将TensorFlow检查点权重迁移到PyTorch。当我使用cp.load_variable(<CKPT>, <FIELD_NAME>)提取一些权重时，我得到一个4D列表，排序为HWCN，例如1，1,512,1024，这显然是HWCN。

浏览 1提问于2020-06-12得票数 0

回答已采纳

1回答

Pytorch:当优化器不得不调用zero_grad()来帮助累积梯度时，动量SGD是如何工作的？

machine-learning、deep-learning、pytorch、gradient-descent

在pytorch中，backward()函数累积渐变，我们必须通过调用optimizer.zero_grad()在每个小批量中重置它。在这种情况下，当实际动量SGD使用过去一些小批次的指数平均值更新权重时，动量SGD如何工作。作为Pytorch的初学者，我很困惑。不需要使用过去的渐变来执行更新吗？

浏览 0提问于2018-12-31得票数 1

1回答

Pytorch权重未更新..有时

pytorch

不确定这是什么原因，但有时我开始训练我的神经网络，我的权重都没有更新。当我初始化我的脚本时，这种情况可能会发生5次中的4次。另一次，它按预期更新所有内容，并按预期进行训练和预测。

浏览 154提问于2021-08-24得票数 0

1回答

如何从有向图实现PyTorch NN

python-3.x、neural-network、pytorch

我是Pytorch的新手，也是自学的新手，我想创建一个接受有向图的ANN。我还希望将每个连接的预定义权重和偏差传递给它，但现在愿意忽略它。

浏览 12提问于2020-03-10得票数 1

1回答

Torch:不更新变量的反向传播梯度

pytorch、gradient、torch、backpropagation

在pytorch中，有没有一种有效的方法来反向传播梯度，而不是更新它们对应的变量？在更新过程中，每次创建一个权重副本似乎太昂贵了。下面的操作似乎花费了太多时间，因为每次更新权重时，它都需要复制模型： … self.model = MyModel()

浏览 0提问于2020-03-20得票数 2

1回答

反向传播是否使用优化函数来更新权重？

deep-learning、backpropagation、optimizer-deeplearning

我知道反向传播计算成本函数相对于模型参数(权重和偏差)的导数。但是，我需要确保反向传播不会更新权重和偏差；相反，它使用优化器来更新权重和偏差，如Adam、Gradient Descent等提前感谢

浏览 43提问于2020-10-29得票数 0

回答已采纳

2回答

PyTorch:损失保持不变

python、machine-learning、pytorch、loss-function

我已经用自己实现的损失函数focal_loss_fixed用PyTorch编写了一段代码。但我的损失价值在每个时代之后都是固定的。看起来权重没有更新。

浏览 2提问于2018-10-16得票数 1

1回答

加载自定义模型的state_dict时出错

pytorch

我在加载模型权重时遇到了问题。nn.AvgPool2d(8, count_include_pad=False) self.last_linear = nn.Linear(1536, num_classes) 我曾尝试保存权重

浏览 233提问于2019-04-24得票数 0

1回答

如何将Keras h5格式转换为PyTorch pth格式？

deep-learning、keras、pytorch

我在Keras中训练了一个特征提取器，并将权重保存为一个h5文件。现在，我希望将相同的权重加载到在PyTorch中创建和初始化的相同模型中，以便进行性能比较。有没有办法将h5文件转换为pth文件，以便将其加载到PyTorch模型中？

浏览 0提问于2019-08-04得票数 3

1回答

nn.Parameter的含义是什么

pytorch

我在GCN和pytorch一起工作。我可以找到代码， weight = nn.Parameter(torch.FloatTensor(in_features, out_features)) 这段代码是否将权重设置为随机值？我也想知道代码更新权重是多少。

浏览 101提问于2021-07-17得票数 1

1回答

在JupyterNotebook中下载的模型位于何处？

python、pip、nlp、jupyter-notebook、pytorch

当我运行这个命令时，我可以看到我下载了模型。那么，这些下载的模型/数据/令牌器存储在我的机器中的什么地方？

浏览 12提问于2020-12-27得票数 0

1回答

简单Conv网

pytorch、conv-neural-network

我是新的火把，我想要你的灯在一个小的网，我试图设置。 """ Convolution 2D Layer followed by PReLU activation def __init__(self, n_in_channels, n_out_channels, **kwargs): self.conv = nn.Conv2d(n_in_channels, n_out

浏览 0提问于2019-09-11得票数 1

回答已采纳

1回答