1回答
我一直在尝试实现这篇论文：。所以，我一直在做的是：class HybridFactorization(tf.keras.layers.Layer):现在，像create_songs_batch(input_batch)和create_pivot_batch(input_batch, target_batch)这样的各种函数只提供所需格式的数据我的模型运行了，但是我得到警告：WA
浏览 21提问于2020-05-12得票数 1
1回答
但是“不可训练的重量”让我困惑。假设我有一个简单的图层，如下所示(它只做一件事，除以平均数)：K = tf.keras.backend return K.mean(inputs) / (K.std(inputs) + K.epsilon()) * 15.87450787
有两个中间张量我应该把这两个张量注册为non-trainabl
浏览 2提问于2020-12-30得票数 0
1回答
我的意思是，假设我有一个小型批次，我举了一个例子，并为此做了以下工作：使用前向传播后的输出-我计算了参数的梯度。然后，我从小批处理开始下一个例子，并对其重复步骤1和步骤2，在得到参数梯度之后，我将它们与前面得到的梯度相加。在对小批处理的所有元素执行这些操作之后，我使用生成的梯度和来查找梯度的平均值，并使用它更新</em
浏览 0提问于2023-05-23得票数 0
我不太明白while_loop并行化是如何工作的。假设我有一个TensorArray，它有10个形状相同的张量。现在假设循环体中对前5个张量的计算独立于其余5个张量的计算。另外，如果我使用张量而不是TensorArray，并使用scatter_update对其进行更新，它会在backprop过程中正确传递梯度吗？
浏览 1提问于2016-12-22得票数 0
我一直在尝试更好地理解RNN，并且正在使用numpy从头开始创建一个RNN。我在计算损失的时候，有人建议我不要用梯度下降和权重矩阵来更新自己，而是使用pytorch .backward函数。我开始阅读这里的一些文档和帖子，介绍它是如何工作的，似乎它将计算火炬张量在函数调用中包含requires_grad=True的梯度。
因此，除非创建火炬张量，否则我无法使用.b
浏览 9提问于2022-07-20得票数 0
概述：--我只想更新网络中选定的变量。该网络有部分A->B (正向)，每个部分都有单独的损失La和Lb。我想训练权重a of A来优化Lb。在这样做时，权重b of B应该是固定的。我该怎么做？方法1:只选择a作为变量，以最小化在optimizer.minimize(loss, var_list=[a])中使用var_list。。编辑1:导致错误的行：a_optim = tf.train.AdamOptimizer(args.lr, beta1=args.beta
浏览 3提问于2017-01-18得票数 1
我非常理解Tensorflow中的变量概念(我想)，但我仍然觉得它们不是很有用。我读到它的主要原因是为了在以后恢复它们，这在某些情况下可能很方便，但是您可以使用numpy.save来保存矩阵和值，甚至将它们写到日志文件中。变量用于保存张量，但是您可以使用Python变量来保存它们，从而避免了Tensorflow的变量额外包装。我对TF变量的结论是，它们可以帮助我们编写更好的代码，但它们不是必需的。对他们有什么想法吗？
浏览 0提问于2018-01-01得票数 0
我不熟悉Keras的内部工作原理，很难理解Keras如何在培训期间使用optimizers.SGD的optimizers.SGD函数。
我在网上搜索了很长一段时间，但只有很少的细节。具体来说，我的理解是SGD的参数/权重更新规则是在get_updates()函数中定义的。但是，似乎get_updates()并不是在训练期间的每一次迭代中都会被真正调用；否则，在每次调用c.f中重置时，“瞬间
浏览 2提问于2019-03-08得票数 2
回答已采纳
1回答
我正在训练一个在TensorFlow Keras中实现的NN。., CustomCallback()])gradients.BiasBatchNorm:梯度：梯度:用于更新权重的梯度，层传播运行的均值，运行var、Gamma、Beta获取输入和目标我怎么得到我提到的所有张量？
浏览 1提问于2020-10-01得票数 1
回答已采纳
在学习GANs时，我注意到代码示例显示了以下模式：d_optim.zero_grad()
d_loss = d_loss_fn= d_loss_fn(fake_pred, torch.zeros(noise_batch_size, 1))发电机是这样训练的：noise_batch_size, 1))有人提到，d(g(noise_batch).
浏览 4提问于2020-03-20得票数 2
回答已采纳
我用tf.Estimator训练了一个简单的自动编码器。在训练过程中，一个特定的张量W被更新，其中W是一个矩阵。经过培训，我想检索W并使用numpy读取它的值。这是一个简单的任务，如果我不使用tf.Estimator，我会调用.eval()并传递会话。但是，Estimator是一个高级API，会话的初始化和使用都是在幕后完成的。我得到以下错误：
TypeErro
浏览 2提问于2018-06-01得票数 1
2回答
我想知道在神经网络层的反向传播过程中，是否设置了学习速率来更新权重。重量是如何和在哪里更新的？
我看不到优化器、学习率和反向传播函数之间的联系。
浏览 4提问于2021-09-14得票数 1
回答已采纳
我感兴趣的是计算损失的梯度，这个梯度是从TensorFlow中矩阵乘法的乘积中计算出来的。如果乘积是作为张量计算的，那么我就可以这样做，但如果它是按变量设置的assign()，则不能这样做。，，但梯度将打印为None。但是，如果“问题”下面的行被注释，而“无问题”被取消注释，则梯度将被计算得很好。我推断这是因为在第二种情况下，activation
浏览 1提问于2019-03-14得票数 3
回答已采纳
1回答
权值被分割时，权重更新是如何在动态计算图的割炬代码中工作的(=多次重用)
import torch
y_pred = self.output_linear(h_relu)我想知道一个步骤中多次使用的每一次向后的
浏览 1提问于2019-01-18得票数 2
回答已采纳
我正在创建一个稀疏的神经网络，如下图所述。Keras只提供一个密集的层，我们不能选择我们想要连接到前一层的神经元数量。为了使用Keras实现这一点，我尝试实现以下方法：2-带掩码矩阵的多重梯度矩阵使其稀疏我无法在Keras
浏览 5提问于2022-05-24得票数 1
回答已采纳
我有个愚蠢的问题，但我不知道怎么解决它。我的输出层是一个完全连接的网络，它有一个二维加权矩阵W。假设W是一个3x3矩阵，我的算法需要W的行值是相同的。意思是在更新过程中，W更改为W'，但每一行的元素同时变化并保持相同的</em
浏览 0提问于2018-07-29得票数 0
回答已采纳
我想在Tensorflow中计算张量"Y“相对于参数矩阵"X”的梯度。具体地说，我只想计算"X“的一组给定”索引“的梯度。下面的代码首先计算整个渐变，然后返回与所需索引对应的渐变：grad=tf.gradients(Y,X)使用Tensorflow的"tf
浏览 1提问于2016-06-28得票数 4
2回答
没有所有连接的神经网络层
、、、、
神经网络稠密层中的权重是(n，d)矩阵，我想强迫其中的一些权值始终为零。我有另一个(n，d)矩阵，它是条目可以是非零的掩码。这个想法是，该层不应该是真正密集的，而是缺少一些连接(即等于0)。我不希望这些重量在训练时变成非零。
如果它不直接支持它，一种方法是在每次迭代训练之后将所需的条目归零。
浏览 3提问于2020-09-15得票数 4
回答已采纳
但是，根据日志，它说，当我检查错误所引用的行时，RuntimeError: a view of a leaf Variable that requires grad is being used in anin-place operation.只是类中的一个简单的属性设置器：def pdfvec(self, value):就地操作不是类似于+=
浏览 0提问于2022-09-06得票数 1
回答已采纳
假设我有一个输入和一个由A，net B和net C组成的序贯网络，如果我分离了B网，然后把X放到A->B->C中，因为B被分离了，我会失去A的梯度信息吗？我会假设没有？我假设它只是把B当作一个常数加到A的输出中，而不是一些可微性的东西。
浏览 4提问于2022-06-17得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
