我将为LSTM神经网络实现注意力机制。我使用了这一层(https://pypi.org/project/keras-self-attention/),但它增加了错误!也许这是因为我的数据集,但类似的研究已经在注意力层获得了更高的准确性。你能给我介绍一下在Keras中实现注意力的另一种简单易用的方法吗?
发布于 2019-12-27 19:57:12
您可以使用TensorFlow Keras模块tf.keras.layers.Attention
。这是,假设您正在使用TensorFlow 2.0。
你可以在这里阅读更多:https://www.tensorflow.org/api_docs/python/tf/keras/layers/Attention?version=stable
发布于 2020-11-16 15:45:24
注意力不一定总能提高分数。然而,当处理越来越长的输入时,它们变得非常方便。
如果你使用的是LSTM,我不推荐使用tf.keras.layers.Attention,因为这个类更适合CNN,DNN。
只需很少的几行代码,您就可以添加自己的自定义关注层,如下所示:Custom Attention Layer using in Keras
https://stackoverflow.com/questions/59500352
复制相似问题