Adam优化器是如何工作的。它会从t =0开始初始化时间，还是会保存最后一个时间步长？
a) tensorflow中的文档显示了以下计算。有没有其他方法可以将这些指标添加到tensorboard。当我从最后一个检查点重新训练模型时，我实际上得到了一个错误率问题，我不确定在这种情况下Adam优化器到底发生了什么？
浏览 16提问于2017-03-13得票数 2
我正在尝试不同的优化器来比较性能，作为其中的一部分，我使用TensorBoard记录结果。 我已经设置了SummaryWriter输出，以包括所使用的模型和学习率等详细信息。writer = SummaryWriter(comment=f"_{base_model}_{lr}") 我希望它还动态地包含优化器的名称，但似乎没有内置的方法来获取所选优化器的名称。打印优化器会返回它的名称。但是，它与参数信息捆绑在一起，因
浏览 33提问于2021-04-22得票数 0
我想知道如何获得除准确性和损失(并可能显示它们)之外的其他指标(例如，精确度、召回率等)。as tffrom tensorflow.keras.callbacks import TensorBoard), ])
model.compile(optimizer='adam</e
浏览 26提问于2020-03-10得票数 3
回答已采纳
verbose=0, mode='auto',epsilon=0.00002, cooldown=20, min_lr=0)keras.callbacks.TensorBoardFLAGS.batch_size,我想确保学习速率调度器在训练期间已经启动我还检查了优化器api，但没有执行。keras.optimiz
浏览 1提问于2018-03-06得票数 19
回答已采纳
2回答
有了tensorflow 1.3中的标量摘要，我现在可以定义一个‘族’，它将有助于在相同的tensorboard选项卡下对相关指标进行分组。如果我有两个定义如下的汇总标量：recall = recall(labels, predictions)
然后，我可以通过执行以下操作在tensorboard
浏览 8提问于2017-08-19得票数 1
1回答
当模型需要足够长的时间来推断时(即足够大的参数和数据)，当profile_batch打开时，TensorBoard回调无法将训练指标写入日志事件(至少它们在Tensorboard中不可见)。以下是用于获取该失败的代码：import time
from tensorflow.keras.callbacks import TensorBoardsame', activation='linear')(im_conv)
浏览 7提问于2019-11-13得票数 0
回答已采纳
1回答
培训使用tf.keras.optimizers的Adam优化器。我确实设置了TF和NumPy种子。model.compile(optimizer: new Adam(), validation_steps: validationSampleCount, Run.TensorBoard
浏览 11提问于2019-03-22得票数 0
我运行tensorboard summeries，Adam优化器，并对RNN使用while-循环。
在运行模型时，内存增加的已知原因是什么，我如何跟踪内存的使用情况？通常情况下，张紧板只占全部内存。
浏览 2提问于2016-06-21得票数 0
回答已采纳
当使用一个自适应优化器(Adam等)时我们期望在训练期间改变连续小批次的学习速度。但我想知道，学习速度会如何变化之间的连续时代-它是继续从前一个时代(预期的行为)，还是初始化从默认？当然，术语“比率”指的是特定优化器用来确定实际权重、更新wrt梯度的所有变量)。20, \
batch_size=64, \
浏览 4提问于2018-03-21得票数 1
回答已采纳
1回答
我用这种方式构建了一个完全连接的神经网络： optimizer = tf.keras.optimizers.Adam(lr=0.001)
# ,kernel_regularizer
浏览 7提问于2020-01-25得票数 0
回答已采纳
1回答
我正在使用Adam优化器，我尝试了0.001和0.01的学习率，但得到了类似的结果。 Dense(len(possible_labels))(rn50.get_layer(layer_name).output)) model.compile(loss='categorical_crossentropy&#
浏览 1提问于2018-03-18得票数 2
回答已采纳
4回答
实现贝叶斯优化将是最好的，但我想先尝试网格或随机搜索。
我应该在此之前创建不同的图形吗？如何在多个图上进行训练，以及如何比较它们？
浏览 2提问于2017-11-06得票数 3
3回答
当我继续训练我的模型并在tensorboard上可视化进度时，我遇到了一些问题。 ? 我的问题是，如何在不手动指定任何时期的情况下，从相同的步骤恢复训练？如果可能，只需加载保存的模型，它就可以以某种方式从保存的优化器读取global_step，并从那里继续训练。 我在下面提供了一些代码来重现类似的错误。tf.keras.layers.Dropout(0.2),])
model.compile(optimizer='
浏览 20提问于2019-03-06得票数 9
假设我正在使用Adam优化器，并多次在我的模型上调用fit()。fit函数记得哪些参数？
从我观察到的情况来看，损失函数/指标似乎从相同的值恢复(因为相同的保存权重被迭代)，但是学习速率的值是否重置？
浏览 0提问于2020-02-02得票数 0
我最初在Keras中开发了一个分类器，在那里我的优化器非常容易应用衰变。adam = keras.optimizers.Adam(decay=0.001)train_op = optimizer.minimize(loss=loss,global_step=tf.train.get_global_st
浏览 0提问于2019-01-08得票数 6
1回答
我正在自定义数据集(即车牌数据集)上培训tensorflow对象检测API模型。，我的目标是使用tensorflow lite将这个模型部署到边缘设备，所以我不能使用任何RCNN家族模型。因为，我不能将任何RCNN家族对象检测模型转换为tensorflow lite模型(这是tensorflow对象检测API的限制)。我正在使用模型来训练自定义数据集。下面是我的配置文件的代码片段： ssd { box_coder { y_scale: 10.0
浏览 3提问于2020-03-04得票数 4
回答已采纳
我正在试图了解如何在使用clip_norm或与Tensorboard时确定的值。
在Tensorflow中，我们可以使用compute_gradients的优化器来获得梯度并将其添加到中。在Tensorboard中，我们可以在DISTRIBUTIONS选项卡中观察到梯度的范围。然后在使用clip_value时，我们可以确定的范围。
浏览 1提问于2018-04-12得票数 1
回答已采纳
tensorboard = tf.keras.callbacks.TensorBoard( histogram_freq=1, tf.keras.layers.Dense(units = 2, activation='softmax')我使用adam作为优化器，使用稀疏分类交叉熵作为损
浏览 3提问于2020-02-08得票数 1
回答已采纳
在使用Estimator API时，有没有办法让Tensorflow打印额外的训练指标(例如批量精度)？人们可以在Tensorboard中添加摘要并查看结果(参见另一篇文章)，但我想知道是否有一种优雅的方法可以在训练时打印标量摘要值。我知道大多数时候绘制测试集准确性图更有用(我已经在用验证监视器做这件事了)，但在这种情况下，我也对训练批次准确性感兴趣。
浏览 1提问于2017-07-27得票数 24
回答已采纳
1回答
我有一个经过训练的自动编码器模型，我想在张量板中可视化潜伏层。 我该怎么做呢？(dl1) autoencoder.add(output_layer)
autoencoder.fit(X_train, X_train, epochs=100, batch_size=64, vali
浏览 26提问于2021-07-06得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
