我正在使用Python1.14.0和TensorFlow (3.6.8)。我正在尝试使用tensorflow_probability的lbfgs优化器实现(documentation/example)。 如果我运行文档中提供的示例代码，它工作得很好。当这样做的时候，渐变返回为None类型。 我不明白为什么其中一个可以工作，但另一个却不能。 编辑:我意识到使用渐变运行急切执行是行不通的，所以我调整了示例，使其能够以急切执行运行。具有紧急执行的非工作示例(使用GradientTap
浏览 16提问于2019-10-04得票数 0
回答已采纳
我正在使用Tensorflow 2.0并计算二阶导数。然而，tensorflow为u_tt和u_xx返回了None。正确计算了u_x、u_t。变量u,x,t是在前面定义的，它们是tf.Tensor的 import tensorflow as tfwith tf.GradientTape(persistent(1000,1) u_tt = tp2.grad
浏览 37提问于2021-07-10得票数 0
回答已采纳
但问题是tape.gradient返回None，因此弹出错误输出(TypeError : unsupported operand type(s) for *: 'float' and 'NoneType正如您在我的代码中看到的，dloss_dparams = tape.gradient(Cost, [XX,YY])返回none。我不知道问题出在哪里。有人知道它为什么会这样吗？import tensorflow as tfimport numpy as
浏览 4提问于2021-01-29得票数 1
1回答
我最近读了一段Pytorch代码，遇到了loss.backward()和optimizer.step()函数，有没有类似于使用tensorflow/keras的函数呢？
浏览 2提问于2020-05-05得票数 6
我观看了Tensorflow开发人员关于在Tensorflow中急切执行的峰会视频，演示者介绍了“梯度磁带”。现在我知道Gradient Tape跟踪TF模型中发生的自动微分。我在试着理解为什么我会使用渐变磁带？有人能解释一下梯度磁带是如何作为诊断工具使用的吗？为什么有人会使用渐变胶带而不是Tensorboard的权重可视化。或者，梯度磁带还有其他用途吗？
浏览 2提问于2018-12-28得票数 76
回答已采纳
1回答
我正在尝试使用tensorflow-probability中的HMC来推断高斯过程的参数。 我有多个独立的数据序列，这些数据序列是从相同的底层进程生成的，我想要推断出它们都共享的内核参数。,None] gram = gram_matrix(xs)
ys = np.random.multivariate_normal(此代码对任意N运行，并返回正确的似然和梯度： def joint_log_prob(amplitude, length_scale, noise_varia
浏览 29提问于2019-08-31得票数 0
回答已采纳
在TensorFlow2.0中，TensorFlow2.0不支持tf.gradients，并且GradientTape只计算可训练权重的梯度，那么如何像TF1.0那样获得输入的梯度？
浏览 1提问于2020-01-14得票数 1
我在用tensorflow写一个强化学习代理。我想知道状态应该是tf.Variables还是可以使用梯度磁带作为反向传播的numpy数组。如果我的状态/动作数组是numpy而不是tensorflow数组，我不确定渐变是否正确，但是我知道丢失函数返回一个tf.Variable。谢谢，我还是一个使用Tensorflow的初学者--任何解释/建议都会有帮助。
浏览 1提问于2022-05-03得票数 2
我正在使用Tensorflow为一个二进制情感分析类调整BERT。我想使用自定义训练循环/损失函数。注意:我使用的是tensorflow 2.3.0。name="input_type_ids") bert_layer = hub.KerasLayer("https://tfhub.dev/tensorflow
浏览 27提问于2021-08-17得票数 0
我正在经历中的TensorFlow Eager，我发现很难理解定制渐变的部分。我真的不能理解磁带背后的工作机制。下面是我从tf.contrib.eager.custom_gradient实现中借用的代码。有人能解释一下磁带在这里是做什么的吗？from tensorflow.python.eager import tapefrom tensorflow.python.opsimpor
浏览 2提问于2018-03-22得票数 1
我最近切换到了Tensorflow Eager (目前使用TF 1.8.0)，并且非常喜欢它。然而，我现在有一个相当大的模型，它不适合我的GPU内存(GTX 1080Ti，12 TF )，当使用梯度磁带运行时，需要计算TF中的梯度。正向传递(即不使用渐变带)工作正常。import tensorflow as tfimport memory_saving_gradients
tf.g.gradient(full, model.v
浏览 7提问于2018-06-08得票数 3
1回答
computed 0显然，tfe.Variable x正在影响损失函数，因此梯度不应为Nonenormed_data[:10], dtype=tf.float64), s), params=['s'])输出：
Gradient [None使用Tensorflow 1.10.1与急切执行。
浏览 1提问于2018-09-03得票数 0
回答已采纳
在Tensorflow中，很难判断一个函数是否可微。例如，tf.argmax是不可微的。我想知道有没有什么文档可以说明哪些操作是可微分的？
浏览 2提问于2016-10-04得票数 3
问题在Tensorflow中，有，它似乎负责雅可比计算。这是否意味着我们不必手动导出梯度公式，而是让Tensorflow磁带来处理它？计算渐变以自动区分，TensorFlow需要记住在前进过程中发生了什么顺序的操作。然后，在向后传递期间，TensorFlow以反向顺序遍历此操作列表，以计算梯度。
浏览 4提问于2021-04-06得票数 2
所有的梯度似乎都是None。tf.clip_by_value(t, 0, 1))
w.trainableloss = m.compiled_loss(y_data, pre
浏览 6提问于2022-05-25得票数 1
1回答
假设我们有一些函数y=x^2 y = x**2不管怎样，我能找到tensorflow例如，在这种情况下，很容易找到dy/dx=2x，这是否意味着tensorflow将2乘以我的输入值x，然后返回me 6(即3*2)？我有一个非常复杂的函数，
浏览 14提问于2022-03-01得票数 2
我注意到，当损失函数将输入转换为numpy数组以计算输出值时，Tensorflow的自动微分不会给出与有限差分相同的值。下面是这个问题的一个最低工作示例：import numpy as np
# Input is
浏览 1提问于2020-11-10得票数 2
回答已采纳
我正在使用Tensorflow 2，并尝试使用两个张量来计算梯度。y_pred的形状为(None, 1)，averaged_samples为长度为2的列表，其中每个元素的形状为(None, 16834, 1)。但是，渐变始终返回[None, None]。需要注意的一件事是，tf.gradients可以在禁用急切执行的情况下正常工作(而不是梯度磁带)。
浏览 1提问于2019-12-27得票数 0
问题是，为了使损失标准化，我需要在训练循环之外记录TensorFlow变量(要跟踪和标准化)。但是当我这样做的时候，训练时间是很长的。
我认为，它将所有批次的变量累积到图形中，并在最后计算梯度。
浏览 3提问于2019-08-26得票数 3
云服务器
ICP备案
对象存储
云直播
腾讯会议
腾讯云开发者
