首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >AAAI25|xPatch:基于指数季节-趋势分解的双流时间序列预测方法

AAAI25|xPatch:基于指数季节-趋势分解的双流时间序列预测方法

作者头像
科学最Top
发布2025-07-02 18:42:43
发布2025-07-02 18:42:43
1740
举报
文章被收录于专栏:科学最Top科学最Top

论文标题:xPatch: Dual-Stream Time Series Forecasting with Exponential Seasonal-Trend Decomposition

论文链接:https://arxiv.org/abs/2412.17323

研究背景

Transformer的局限性:在时间序列预测中,Transformer的自注意力机制虽能捕捉长序列依赖,但存在排列不变性问题,难以有效保留时间序列的时序信息,甚至被简单的线性模型(如DLinear)超越。

现有分解方法的不足:Autoformer、FEDformer等模型采用简单移动平均(SMA)进行季节-趋势分解,需对序列两端填充,会引入偏差,且分解出的趋势特征单一、季节性模式复杂。

本文提出一种不依赖Transformer的新型双流架构xPatch,结合指数分解、通道独立和patch技术,提升长期时间序列预测的准确性和鲁棒性

核心方法

01 指数季节-趋势分解(EMA)

原理:基于指数移动平均,给近期数据赋予更高权重,无需填充,避免边界偏差。趋势分量由EMA生成,季节性分量为原始序列与趋势的差值。

优势:相比SMA,EMA能更灵活地捕捉动态变化趋势,分解后的趋势和季节性分量更具可解释性,且通过ADF检验验证了EMA分解后季节性分量的平稳性。

如上图所示:在ETTh1数据集上,作者采用0.1、0.3、0.5、0.7、0.9和1等不同平滑因子,对96长度样本进行指数移动平均分解。

结果显示平滑因子越小,分解出的趋势分量越平滑,对短期波动不敏感,季节性分量包含的高频细节越多;平滑因子越大,趋势分量越贴近原始数据,能更快响应短期变化,季节性分量的波动幅度则相应减小

02 双流网络架构

  • 线性流(MLP):处理趋势分量,包含全连接层、平均池化和层归一化,不使用激活函数,专注于线性特征提取。
  • 非线性流(CNN):处理季节性分量,结合patch技术和深度可分离卷积,捕捉非线性模式和patch间的时空相关性。
  •  通道独立:将多变量时间序列拆分为单变量处理,每个变量独立通过双流网络,提升模型对各变量特性的适应性。

03 损失函数与学习率调整

  反正切损失:针对CARD模型中距离衰减系数下降过快的问题,提出反正切损失函数,使远未来预测的损失权重衰减更平缓,提升长期预测稳定性。

 Sigmoid学习率调整:引入非线性暖启动和衰减的Sigmoid学习率策略,相比传统的余弦衰减或线性衰减,训练过程更平滑,收敛更优。

实验验证

数据集涵盖9个真实世界数据集,包括电力变压器温度(ETT系列)、天气、交通、电力消耗等,覆盖不同频率和领域。基线模型对比Transformer类模型(如CARD、PatchTST、Autoformer)和非Transformer模型(如DLinear、TimeMixer)。

性能优势:在60%(MSE)和70%(MAE)的数据集上取得最优结果,相比CARD,MSE和MAE分别提升2.46%和2.34%;在超参数搜索后,优势扩大至5.29%和3.81%。

计算效率:尽管双流架构比单流模型计算成本略高,但远低于Transformer类模型(如CARD的训练时间是xPatch的4.8倍)。

消融实验:通过消融实验证明EMA分解、双流设计、补丁技术和反正切损失均对性能有显著贡献,其中EMA分解使模型性能提升1.35%-4.96%。

结论与未来方向

核心贡献

提出基于EMA的季节-趋势分解,替代传统SMA,提升分解质量。设计CNN+MLP双流架构,结合通道独立和补丁技术,在非Transformer框架下实现优异性能。引入反正切损失和Sigmoid学习率调整,优化训练过程。

未来方向

  • 探索更复杂的分解方法,处理非平稳性更强的时间序列。
  • 研究多变量间的交互建模,超越当前的通道独立假设。
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2025-06-30,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 科学最Top 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 研究背景
  • 核心方法
  • 实验验证
  • 结论与未来方向
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档