我正在尝试解决序列补全的问题。假设我们有基本事实序列(1,2,4,7,6,8,10,12,18,20)
我们模型的输入是一个不完整的序列。即(1,2,4,_,10,12,18,20)。从这个不完整的序列中,我们想要预测原始序列(地面真实序列)。可以使用哪些深度学习模型来解决此问题?
这是编码器-解码器LSTM架构的问题吗?
注意:我们有数千个完整的序列来训练和测试模型。
任何帮助都是非常感谢的。
发布于 2019-10-16 17:16:42
这不完全是序列到序列的问题,这是一个序列标记问题。我建议先堆叠双向LSTM层,然后再使用分类器,或者先堆叠Transformer层,然后再使用分类器。
编码器-解码器体系结构需要大量数据来正确训练,如果目标序列可以是任意长度,仅模糊地依赖于源序列长度,则编码器-解码器体系结构特别有用。它最终会学会用足够的资源来完成这项工作,但序列标记是一个更直接的问题。
使用序列标记,您可以在输出上设置自定义掩码,因此模型将只预测丢失的数字。编码器-解码器模型需要首先学习复制大部分输入。
发布于 2019-10-17 14:30:55
在您的序列完成任务中,您是尝试预测序列中的下一个项目,还是只学习缺少的值?用缺失的数据训练神经网络本身就是一个问题。如果你使用Keras和LSTM类型的神经网络来解决你的问题,你应该考虑屏蔽,你可以参考这个堆栈溢出线程来获得更多的细节:Multivariate LSTM with missing values关于预测缺失值,为什么不尝试自动编码器呢?
https://stackoverflow.com/questions/58409285
复制相似问题