首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

用于时间序列预测的最佳深度学习模型总结

时间序列预测在最近两年内发生了巨大的变化,尤其是在kaiming的MAE出现以后,现在时间序列的模型也可以用类似MAE的方法进行无监督的预训练 Makridakis M-Competitions系列(分别称为...比赛的目的是预测机械肺内压力的时间顺序。每个训练实例都是自己的时间序列,因此任务是一个多个时间序列的问题。获胜团队提交了多层深度架构,其中包括LSTM网络和Transformer 块。...例如电力公司可能希望为每个客户推出电力预测服务,每个客户都有不同的消费模式(这意味着不同的分布)。 除了历史数据,DeepAR还允许使用已知的未来时间序列(自回归模型的一个特点)和额外的静态属性。...例如,在能源需求预测场景中,数据集可以包含中压电力客户(例如小工厂,按兆瓦单位消耗电力)和低压客户(例如家庭,按千瓦单位消耗电力)。 DeepAR进行概率预测,而不是直接输出未来值。...(6)将值和时间,变量和给定的嵌入求和会导致使MSA在时间和可变空间之间以更长的序列作为输入。 换句话说,最后的序列编码了一个包含了时间、空间和上下文信息统一的嵌入。

1.2K21

深度学习在时间序列预测的总结和未来方向分析

基模块试图以自监督的方式确定一组适用于历史和未来时间序列数据的数据基础趋势。basis模块通过对比学习和一个名为InfoNCE loss的特定损失函数(该函数试图学习未来和过去时间序列之间的联系)。...4、Large Language Models Are Zero-Shot Time Series Forecasters 这篇论文探讨了预训练的llm能否直接以整数形式输入时间序列数据,并以零样本的方式预测未来数据...以下是一些我觉得很有趣的,并且对未来一年仍有意义的建议: 1、Crossformer 该模型是专门为多元时间序列预测(MTS)开发的。该模型采用维度分段嵌入(DSW)机制。...这篇论文为时间序列预测提供了一个有趣的角度,相对于常规方法有了一个新的突破,我想就是他虽然没有超过SOTA但是还是被录用的原因之一吧。...总结及未来方向分析 在2023年,我们看到了Transformers 在时间序列预测中的一些持续改进,以及llm和多模态学习的新方法。

48910
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    使用循环神经网络的时间序列预测指南(包含用LSTMs预测未来的货币汇率)

    这篇文章将告诉你如何利用时间序列分析来预测未来的货币汇率,并利用时间序列来进行机器学习。 序列问题 让我们从讨论序列问题开始。涉及序列的最简单的机器学习问题是一个“一对一”问题。 ?...时间序列预测 我对一个递归神经网络的优势印象深刻,并决定用它们来预测美元和印度卢比之间的汇率。这个项目使用的数据集是基于1980年1月2日到2017年8月10日之间的汇率数据。...完全连接的模型不能从单一的前一个值来预测未来。现在让我们尝试使用一个递归的神经网络,看看它的效果如何。 ? 地面实况(蓝色)和预测(橙色) 长短期记忆网络 我们所使用的递归模型是一个层连续的模型。...LSTM预测 模型的变化 在这个模型中可能会有很多变化使它变得更好。你可以始终尝试通过更改优化器来更改配置。我看到的另一个重要变化是通过使用滑动时间窗口方法,该方法来自于流数据管理系统。...这种方法来自于一个观点,即只有最近的数据才是重要的。 一个人可以从一年的时间里展示模型数据,并试着对下一年的第一天做出预测。

    1.1K90

    Theta方法:一种时间序列分解与预测的简化方法

    Theta方法整合了两个基本概念:分解时间序列和利用基本预测技术来估计未来的价值。 每个数据科学爱好者都知道,时间序列是按一定时间间隔收集或记录的一系列数据点。例如,每日温度或经济指标的月值。...这两个组件经过适当的处理和组合,最终形成最终的预测模型 Theta方法修改时间序列以突出显示不同的组件。这是通过在原始序列中添加或减去趋势分量来完成的。...此外这种方法在多个预测比赛中表现出色,证明了其有效性。 在Python中创建用于时间序列分析的Theta方法算法 如果你正在试图预测一家商店未来的销售额。...这种方法主要通过分解时间序列并应用简单的指数平滑来预测未来的值,特别是在处理具有明显趋势的数据时表现出色。...尽管Theta方法本身简单,但要达到最佳预测效果,选择合适的参数和组合策略是必需的,这有时需要依靠预测者的经验和实验。

    23410

    适合时空预测的时间序列表示学习方法

    因此,本文提出的方法也更适合作为时空预测领域的预训练模型。下面为大家详细介绍一下这篇文章。...,有很多对时间序列无监督预训练的研究,一般使用对比学习的思路进行时间序列Encoder的自监督训练。...然而,历史的工作存在3个弊端。 第一个是大多数过去的方法学习的都是序列整体的表示,而时间序列预测任务更关注每个时间步的表示,因此上下游任务存在一定的不适配问题。...3、实验效果 下面为本文提出的表示学习方法在时空预测数据集上的预测效果,可以看到相比TS2Vec(目前SOTA的时间序列表示学习方法),有比较明显的效果提升。...这说明本文提出的引入空间信息的对比学习,对于时空预测类型的问题效果更好。 下图为预测case分析,本文提出的方法相比TS2VecUI有更好的预测趋势。 、

    46131

    使用Domain Adaption提升小场景时间序列预测效果的方法

    解决时间序列预测任务时,训练数据太少怎么办?在机器学习场景中,Domain Adaptation是一种解决数据稀疏的常用方法。...但是以往的Domain Adaptation更多的应用在分类问题,例如图像分类、文本分类、ctr预估等。在时间序列预测中应用Domain Adaptation的方法相对较少。...本文的一个核心假设是:在基于attention的时间序列预测模型中(如Transformer),不同域的时间序列数据在预测当前值时,计算历史序列attention的key和query是可迁移的。...Encoder对输入序列进行编码,然后利用attention+Decoder预测未来,是典型的基于attention的时间序列预测架构。同时Decoder也会重构历史序列,来增强表示的学习。...前两个损失函数是两个domain时间序列的预测损失(对未来的预测损失,外加对历史序列重构的损失);最后一项是利用对抗学习的方法,判断attention模块生成query和key是否来自两个domain。

    82510

    提升Transformer在不平稳时间序列预测上效果的方法

    这篇文章主要针对不平稳时间序列预测问题,提出了一种新的Transformer结构,既能保留原始序列的重要信息,又能消除原始数据的不平稳性,显著提升了不平稳时间序列的预测效果。...Transformer在时间序列预测中的各种应用,可以参考之前的文章如何搭建适合时间序列预测的Transformer模型?...业内解决这种统计量随时间变化的不平稳问题主要方法是,对时间序列数据做一些诸如归一化等平稳化处理。...2 平稳化处理 文中对原始输入序列采用了简单有效的平稳化方法,对于每个输入序列,利用输入序列的均值和方差将其转换为0均值1方差的高斯分布,以此消除不同时间窗口时间序列统计量的差异: 对于模型的输出结果...最后,通过一些case的可视化分析可以发现,Non-stationarity Transformer可以更准确的刻画序列未来的趋势性和波动性。

    1.2K20

    VLDB2024 |TFB: 全面且公平的时间序列预测方法评测基准

    例如,在图4中,ETTh2具有长度为2,880的测试序列长度,我们使用大小为512的回溯窗口预测336个未来时间步。...时间序列预测: 给定 H 个时间点的历史时间序列 X\in\mathbb{R}^{H\times N} ,时间序列预测旨在预测 F 个未来时间点,即 Y\in\mathbb{R}^{F\times N...给定长度为n的时间序列,从n-f个历史时间点预测f个未来时间点,如图7a所示。 滚动预测。如图7b所示,在滚动预测中,蓝色方块表示历史数据,绿色方块表示预测步长,白色方块表示时间序列中的剩余数据。...对比方法:为了减少对比方法上的刻板印象,我们包含了第4.2节中提到的所有方法,进行全面比较。 实施细节:对于多变量预测,我们采用滚动预测策略。...总结 我们提出了TFB时间序列预测基准,以解决三个问题,实现对TSF方法的全面和可靠比较。

    19710

    AI论文速读 | 2024TFB:时间序列预测方法的综合公平基准测试

    应该ED&B(Experiment, Analysis and Benchmark)的VLDB论文。 摘要 时间序列在经济、交通、健康和能源等不同领域生成,其中未来值的预测具有许多重要的应用。...毫不奇怪,人们提出了许多预测方法。为了确保进展,必须能够以全面、可靠的方式对这些方法进行实证研究和比较。为了实现这一目标,本文提出了 TFB,一种时间序列预测 (TSF) 方法的自动化基准。...总的来说,TFB旨在为时间序列预测方法提供一个全面、可靠和用户友好的评估平台,以促进新方法的发展和现有方法的改进。...方法多样性和评估策略的扩展: 支持包括统计学习、机器学习和深度学习在内的多种时间序列预测方法。 提供多种评估策略和指标,以全面评估不同方法的性能。...包含了22种不同的时间序列预测方法,涵盖统计学习、机器学习和深度学习三大类。 对每种方法进行了全面的超参数选择,以确保其性能接近或超过原始论文中报告的结果。

    10410

    4大类11种常见的时间序列预测方法总结和代码示例

    本篇文章将总结时间序列预测方法,并将所有方法分类介绍并提供相应的python代码示例,以下是本文将要介绍的方法列表: 1、使用平滑技术进行时间序列预测 指数平滑 Holt-Winters 法 2、...单变量时间序列预测 自回归 (AR) 移动平均模型 (MA) 自回归滑动平均模型 (ARMA) 差分整合移动平均自回归模型 (ARIMA) 季节性 ARIMA (SARIMA) 3、外生变量的时间序列预测...包含外生变量的SARIMAX (SARIMAX) 具有外生回归量的向量自回归移动平均 (VARMAX) 4、多元时间序列预测 向量自回归 (VAR) 向量自回归移动平均 (VARMA) 下面我们对上面的方法一一进行介绍...换句话说,观察时间越近相关权重就越高。它可以快速生成可靠的预测,并且适用于广泛的时间序列。 简单指数平滑:此方法适用于预测没有明确趋势或季节性模式的单变量时间序列数据。...,用于预测时间序列向量或多个并行时间序列,例如 多元时间序列。

    3.8K41

    时间序列预测的零样本学习是未来还是炒作:TimeGPT和TiDE的综合比较

    最近围绕用于时间序列预测的研究领域的基础模型正在经历显著增长。...密集编码器接收特征投影的输出与静态协变量以及过去的值的拼接,并将它们映射成单一的嵌入表示。 解码器接收嵌入表示,并将其转换为未来的预测。密集解码器将嵌入表示映射到预测时段每个时间步的向量。...然后,时间解码器将密集解码器的输出与该时间步的特征投影相结合,产生预测。 残差连接线性地将回溯映射为与预测时段大小相同的向量,将其添加到时间解码器的输出中以产生最终的预测。...预测范围是16周,也就是说想要预测未来16周的情况。...因为目前来看无论是lightgbm还是xgboost,都是目前时间序列预测的sota:这点可以从时间序列发布的论文中看到,所有论文的结果展示没有和它们进行对比的,而对比对象的都是一些前辈(transformer

    46410

    时序必读论文14|VLDB24 TFB:全面且公平的时间序列预测方法框架

    与以往对时序模型修补、改进类的算法论文不同,TFB这篇文章关注的是整个时间序列领域更高的层面的问题。...以上这些简单模式只是冰山一角,不同领域的时序可能具有更复杂的模式。因此,仅使用有限的领域会导致时间序列特征的覆盖范围有限,无法提供一个完整的视角。 图2总结了现有预测基准测试中使用的多变量数据领域。...本文工作 围绕以上问题,作者提出时间序列预测基准(Time series Forecasting Benchmark,TFB),以更全面地跨应用领域和方法对时间序列预测(TSF)方法进行实证评估和比较,...解决问题1: 根据数据集特征分类方法进行全面的数据集收集,提供多样化的特征,涵盖来自多个领域和复杂设置的时间序列。...实验和总结 作者对TFB中包含的所有数据集,包括25个多变量数据集和8,068个单变量时间序列,以及前文提到的所有baseline方法,进行细致的实验分析,限于篇幅不在展示。

    16100

    时序论文22|ICML24港科大:面向多变量不规则的时间序列预测方法

    变化的时间间隔破坏了时间序列数据的一致性流动,使得传统的时间序列预测模型难以准确捕捉潜在的时间动态和依赖性。 时间序列间相关性的异步性建模,IMTS中的观测在时间上可能显著错位。...本文模型 提出了一种用于IMTS预测的可变换patch图神经网络(T-PATCH GNN)方法。...第一步是不规则时间序列分割,本文提出一种名为可变长片段化(Transformable patching)方法,该方法将IMTS分割成可变长度的片段,每个片段覆盖统一时间窗口,保持时间分辨率一致性,同时避免了预对齐导致的序列长度爆炸问题...第三步是序列内和序列间的建模。这块对应图(c),基于transformer通道独立(CI)方法进行序列内关键建模,同时提出一种时间自适应图神经网络的方法,建模不同变量间的关系,解决时间错位问题。...在此基础上,提出时间自适应图神经网络,以模拟基于一系列学习到的时间变化自适应图的动态时间序列间相关性。在IMTS预测基准上展示了T-PATCH GNN的显著优越性。

    40820

    供应链管理难?用数据打造智能供应链

    2、企业内部挑战 来自包括客户、销售、库存等方面,如何了解客户?客户喜好是什么?怎样让客户满意?如何对未来销量进行把控?什么时候开展促销?怎样避免缺货发生?如何设置安全库存? 如何高效解决挑战?...,极大降低了实施、集成、培训的成本。...供应链管理建设目标和方法 供应链管理的核心是在合适的时间,把合适的商品配送合适的数量到合适的位置。 具体分为如下四个方面: 1、通过供应链管理缩短现金周转时间,供应链环节是资金周转率的决定性环节。...准确的说,它是对整个供应链的系统运行绩效、供应链各个环节的企业之间的合作关系所做出的评价,可以从客户、时间、成本、效率四个方面给出的评价: 客户方面以创造客户满意的产品和服务为目标,主要评价指标包括客户保有率...库存管理的目标是在降低库存成本的同时,提升客户服务水平。具体策略包括减少库存周转时间、增加库存的透明度、降低库存持有成本、提高预测准确度。

    1.7K32

    回顾︱DeepAR 算法实现更精确的时间序列预测(二)

    AWS也为此做了很多开发文档: 在机器学习中,目前主流的方法是利用LSTM等递归神经网络来对未来数据进行预测,这次介绍的DeepAR模型也不例外,不过不同的是,DeepAR模型并不是直接简单地输出一个确定的预测值...后者尤其适合产能规划等商业应用,在此类应用中,具体的预测分位数比可能性最大的结果更为重要。 例如,根据预测自动为运动鞋下订单的系统可能需要生成订单数量,以使仓库库存在 X% 的概率下满足客户需求。...借助概率预测,根据预测的 X% 分位数得出订单数量,可以轻松做到这一点。 客户可以通过指定相应的似然函数超参数和推理时所需的分位数来利用此功能。...对金融时序的独特有效性: DeepAR模型不同于以往的时间序列预测模型,它输出的是未来数据的一个概率分布,我们需要通过采样的方法,用DeepAR递归地生成对于未来一段时间数据的预测,不过因为是从概率分布中采样得到的...个人感觉这种让模型输出概率分布的方法特别适用于像金融数据这类具有较大不确定性的时间序列数据,这类数据上往往具有一些噪声,这就导致直接对未来数据做直接预测并不一定可靠,而对于预测概率分布的DeepAR模型

    3.5K20

    老曹眼中的CRM 图解

    、时间序列的预测分析,支持多级团队和矩阵式销售结构的复杂预测以及利用参数驱动的销售漏斗图表和销售预测报表对订单和收入进行实时分析。...、最佳实践等辅助管理不同渠道的销售流程、并实现下订单和记录服务请求,访问与分销商、零售商等相关的营销信息,将营销活动产生的呼叫列表路由给渠道伙伴。...对客户概况和需求喜好、购买行为、价值评估的分析能力;对产品需求、价格敏感度和促销效果、产品定价的分析能力;对订单预测、报价-订单转化率、订单趋势、业绩的分析能力;对销售业绩、渠道客户、竞争对手和销售区域...、销售预测、销售周期的分析能力 ;以及对客户满意度、服务解决时间、服务工作负荷和产品缺陷、服务配件预测的分析能力。...对于时间和费用,应该有明确最小客户化程度(例如100个用户)的典型实施时间,同时注意基于许可计算的典型实施费用,以及其他设备/软件等的所需费用,关注超出项目周期的实施费用和潜在成本。

    1.1K40

    【数据分析模型】描述性 vs 预测性 vs 规范性 vs 诊断分析

    当您以这种方式看待分析时,就会更容易理解为什么它们在作为一个统一系统实施时最有价值。...概率论、过滤、回归分析和时间序列数据分析都是与诊断分析相关的有用工具,可促进这一过程。 什么是描述性分析? 当涉及到描述性分析时,线索就在名称中:它们描述了您的业务状态。...一个常见的例子是分析季节性购买趋势以确定推出新产品的最佳时间。由于消费者是习惯性动物,因此查看历史数据是预测他们的反应的有效方法。 描述性分析或统计数据可以展示从总库存到几年内销售数据进展的所有内容。...他们可以显示客户花费的典型金额以及该金额是否可能在某些时候增加。如果诊断分析是关于原因的,那么描述性分析可以解释是什么。 什么是预测分析? 预测性分析和描述性分析具有对立的目标,但它们密切相关。...与预测分析一样,规范分析也不会 100% 正确,因为它们与估计一起工作。但是,它们提供了“展望未来”并在做出决策之前确定决策可行性的最佳方式。

    1.3K30

    Prophet在R语言中进行时间序列数据预测

    Box-Cox变换 通常在预测中,您会明确选择一种特定类型的幂变换,以将其应用于数据以消除噪声,然后再将数据输入到预测模型中(例如,对数变换或平方根变换等)。...预测 使用Prophet通过Box-Cox转换的数据集拟合模型后,现在就可以开始对未来日期进行预测。 现在,我们可以使用该predict()函数对未来数据帧中的每一行进行预测。...---- 最受欢迎的见解 1.在python中使用lstm和pytorch进行时间序列预测 2.python中利用长短期记忆模型lstm进行时间序列预测分析 3.使用r语言进行时间序列(arima,指数平滑...)分析 4.r语言多元copula-garch-模型时间序列预测 5.r语言copulas和金融时间序列案例 6.使用r语言随机波动模型sv处理时间序列中的随机波动 7.r语言时间序列tar阈值自回归模型...8.r语言k-shape时间序列聚类方法对股票价格时间序列聚类 9.python3用arima模型进行时间序列预测

    1.6K20

    实施单件流生产的前提与方法步骤是什么

    那么,实施单件流生产的前提与方法步骤是什么图片1、清晰的产品族的定义与划分根据产品族以及对应的机器、场地、人员等资源配置形成独立生产运营的组织或团队。...有些昂贵机器或大型设备如果在不同的产品族之间共享产能,这时候该工序/设备/机器无法与某产品族连线(否则会带来该机器的运行效率低下),只好退而求其次,在该工序/设备/机器实施拉动,连接上下游工序的日常运行...2、计划均衡市场上波动的客户需求通过公司计划部门的技术处理(历史数据分析并预测未来趋势、产能分析、与客户的实时沟通协调等),以达到订单在产能上的均衡分布,这个过程,我们称之为订单均衡化。...3、快速换型/换线由于单件连续流生产,产品的切换频繁,更需要快速换型/换线,降低机器/产线的停机/停线时间,以充分利用机器/产线的加工时间,在满足客户需求的前提下,充分提高资源的利用效率,以最少的资源投入满足客户需求...5、规划单件流生产线的一般步骤:计算客户需求;计算需求节拍;确定生产节拍(需求节拍的基础上考虑产线的效率因素);生产流程时间(单件流生产线第1工序至最后工序的总工艺时间)分析与优化;线平衡分析与设计;机器设备

    48120

    时间序列建模三部曲

    图4:删除季节和趋势后的平稳数据 第2步:建立您的时间序列模型 现在数据是平稳的,时间序列建模的第二步是建立一个基准水平预测。我们还应该注意到,大多数基准级预测不需要将数据平稳的第一步。...要建立一个可以准确预测未来页面浏览量的模型(或者您对预测感兴趣的任何内容),有必要确定适合您数据的模型类型。 最简单的选择是假定y的未来值(您对预测感兴趣的变量)等于y的最新值。...第二种类型的模型是平均模型。在这个模型中,数据集中的所有观察值都被赋予相同的权重。y的未来预测以观测数据的平均值计算。...Yt(目前的观察)0.7 YT-10.21 YT-20.063 YT-30.0189 YT-40.00567 表1:过去观察Y的指数下降效应的例子。 在时间序列预测中可以实施各种类型的ESM。...如果数据与我们的数据具有自相关性,那么可能会进行额外的建模,以进一步改进基线预测。 为了捕获时间序列模型中自相关的影响,有必要实施自回归整合移动平均(或ARIMA)模型。

    60330
    领券