问双向LSTM合并模式说明

EN

在双LSTM中，您将有一个LSTM在输入(例如X)上从左向右展开(例如LSTM1)，另一个LSTM从右向左展开(假设您的输入大小(X.shape)为长度，其中每个要素的长度/时间步数/否:of

• n:Batch size
• tsequence unrollings)
• f:No:Of time-step

：of

1. LSTM1/X.shape/no:of
   • n：Batch size
   • tsequence unrollings)
   • f：No:Of time-step

1. 假设我们有一个具有单个Bi-LSTM的模型，其定义如下

model.add(Bidirectional(LSTM(10, return_sequences=True), input_shape=(t, f)))

在这种情况下，

1. 将返回大小为n X t X 10的输出，而LSTM2将返回大小为n X t X 10
2. Now的输出。您可以选择如何使用merge_mode

在每个时间步组合LSTM2和n X t X 10的输出

sum:在每个时间步将LSTM1输出添加到LSTM2。即。n X t X 10 of LSTM1 + n X t X 10 of LSTM2 =大小n X t X 10的输出

mul:在每个时间步将LSTM1输出按元素相乘到LSTM2，这将导致输出大小为n X t X 10

concat:在每个时间步以元素方式将LSTM1输出连接到LSTM2，这将导致输出大小为n X t X 10*2

ave:每个时间步LSTM1输出到LSTM2的元素平均值，这将导致输出大小为n X t X 10

None:将LSTM1和LSTM2输出作为列表返回

基于merge_mode合并输出后，不应用激活函数。如果您想要应用激活，则必须在模型中明确地将其定义为层。

测试代码

model = Sequential()
model.add(Bidirectional(LSTM(10, return_sequences=True), input_shape=(5, 15), merge_mode='concat'))
assert model.layers[-1].output_shape == (None, 5, 20)

model = Sequential()
model.add(Bidirectional(LSTM(10, return_sequences=True), input_shape=(5, 15), merge_mode='sum'))
assert model.layers[-1].output_shape == (None, 5, 10)

model = Sequential()
model.add(Bidirectional(LSTM(10, return_sequences=True), input_shape=(5, 15), merge_mode='mul'))
assert model.layers[-1].output_shape == (None, 5, 10)

注意：

您不能在序列模型中使用merge_mode=None，因为每一层都应该返回一个张量，但是None返回一个列表，所以您不能将其堆叠在模型中。但是你可以在keras的函数式API中使用它。

这很简单。假设您的前向LSTM层返回类似于[0.1, 0.2, 0.3]的状态，而后向LSTM层返回[0.4, 0.5, 0.6]。然后连接(为了简洁)是[0.1, 0.2, 0.3, 0.4, 0.5, 0.6]，它被进一步传递到激活层。