将tensorflow tf.contrib.layers.layer_norm转换为tf2.0
将tensorflow tf.contrib.layers.layer_norm转换为tf2.0
提问于 2020-03-27 17:16:43
我想将以下代码从tf1.0更改为tf2.0
tf.contrib.layers.layer_norm(
inputs=input_tensor, begin_norm_axis=-1, begin_params_axis=-1, scope=name)这段代码取自https://github.com/google-research/bert/blob/master/modeling.py第364行。
请帮帮我。
回答 2
Stack Overflow用户
发布于 2020-06-13 17:38:11
@rishabh-sahrawat的答案是正确的，但你应该这样做：
layer_norma = tf.keras.layers.LayerNormalization(axis = -1)
layer_norma(input_tensor)在您链接的BERT案例中，您应该使用以下内容修改代码：
def layer_norm(input_tensor, name=None):
"""Run layer normalization on the last dimension of the tensor."""
layer_norma = tf.keras.layers.LayerNormalization(axis = -1)
return layer_norma(input_tensor)Stack Overflow用户
发布于 2020-03-27 17:48:42
在tf2.0中，This是实现这一点的等效方法。
tf.keras.layers.LayerNormalization(input_tensor, axis = -1)页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/60883048
复制相关文章
相似问题
腾讯云开发者
