默认的Adam优化器在tf.keras中不起作用，但字符串`adam`可以
默认的Adam优化器在tf.keras中不起作用，但字符串`adam`可以
提问于 2019-07-11 03:16:10
我一直在试用TensroFlow v2测试版，我也在试用tf.keras型号。
当我编译一个模型并选择优化器作为字符串'adam'时。模型可以被正确地训练：
model.compile(optimizer='adam', loss='categorical_crossentropy')
model.fit(x, y)但是，当我尝试使用默认优化器tf.keras.optimizers.Adam()时，它不能被训练，并且在每次迭代时都会输出nan损失。
adam = tf.keras.optimizers.Adam()
model.compile(optimizer=adam, loss='categorical_crossentropy')
model.fit(x, y)字符串'adam'不应该是默认的adam优化器吗?还是我遗漏了什么？我尝试了几个超参数(learning_rate、beta_1、beta_2等)，但似乎都不起作用。这是个大问题，因为我可能不想一直使用默认的超参数。
有人能解释这种行为吗？
回答 2
Stack Overflow用户
回答已采纳
发布于 2019-07-11 03:45:44
Stack Overflow用户
发布于 2019-07-11 03:43:07
据我所知，现在有两种不同的优化器实现。Using optimizer='adam‘似乎使用了这个实现：
https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/keras/optimizer_v2/adam.py
您可以显式导入为：
from tensorflow.python.keras.optimizer_v2 import adam as adam_v2页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/56977277
复制相关文章
相似问题