问LSTM的记忆能力(实数)

EN

我的问题如下：

众所周知，LSTM可以记住表示整数的一个热编码序列(即在接收到x_1, ... x_n作为输入后输出x_1, ... x_n，x_k \in \{0,1\}^m，其中m是不同整数的数目)。

理论上，LSTM是否有可能学着记住实数序列(可以用有限位来表示)，即如果用x_t \in \mathbb{R}代替。

我关心的任务要简单得多--我只想在读取整个序列x_1之后输出第一个输入x_1, ... x_n。我用x_t \in \mathbb{R}做了一些小实验，用平方损耗。似乎有一定程度的成功，但结果不是很容易解释(当我看权重)。有人能说明一下这一点吗，特别是：

1. 是否存在这样的权重配置？(下面的问题说明这个问题确实存在)
2. 若然，是甚麽？若否，原因为何？

LSTM模型由以下几个方面指定：

输入、忘记和输出门：

以及内部状态c_t和隐藏状态h_t：

应要求，这是分配问题：

内存任务描述考虑以下任务:给定n编号的输入序列，我们希望系统在读取此序列后返回序列中的第一个数字。这是给出了一个输入序列：(x_1, x_2, \cdots x_n)，x_i \in \mathbb{R}系统必须返回，在t=n‘读取’最后一个输入x_n，第一个输入x_1之后。

1. 鉴于上述任务，请考虑上述递归模型(RNNs/LSTMs/GRUs)。这些建筑中有哪一种(理论上)能完成上述任务？在回答这个问题时，请考虑一个简单的RNNs/GRU/LSTM单层模型，其中包含一个一维输入x_t，一个32-dim隐藏和输出层，然后转换到一个一维最终输出，该输出应该可以预测x_0。只要答案是肯定的，给出门的激活和怪胎，这将产生期望的行为。当答案为“否”时，证明不存在这样的参数，即可以将任意输入序列转换为产生第一个符号读取。