大脑区域之间的相互作用随着时间的推移而变化,这可以用时变功能连接(tvFC)来描述。估计tvFC的常用方法使用滑动窗口,并提供有限的时间分辨率。另一种替代方法是使用最近提出的边中心方法,这种方法可以跟踪成对大脑区域之间共同波动模式的每时每刻变化。在这里,我们首先研究了边时间序列的动态特征,并将其与滑动窗口tvFC (sw-tvFC)中的动态特征进行了比较。然后,我们使用边时间序列来比较自闭症谱系障碍(ASD)受试者和健康对照组(CN)。我们的结果表明,相对于sw-tvFC,边时间序列捕获了快速和突发的网络水平波动,这些波动在观看电影期间同步。研究的第二部分的结果表明,在CN和ASD中,大脑区域集体共同波动的峰值振幅的大小(估计为边时间序列的平方根(RSS)是相似的。然而,相对于CN, ASD中RSS信号的波谷到波谷持续时间更长。此外,高振幅共波动的边比较表明,网络内边在CN中表现出更大的幅度波动。我们的研究结果表明,由边时间序列捕获的高振幅共波动提供了有关脑功能动力学中断的细节,这可能被用于开发新的精神障碍生物标志物。
表格数据的特征工程本是一个模块化过程,目标是对数据集进行编码以获得更好的模型精度。
距离度量的选择影响我们的机器学习结果,因此考虑哪种度量最适合这个问题是很重要的。因此,我们在决定使用哪种测量方法时应该谨慎。但在做出决定之前,我们需要了解距离测量是如何工作的,以及我们可以从哪些测量中进行选择。
表示学习作为深度学习中的核心,近期越来越多的被应用到了时间序列领域中,时间序列分析的表示学习时代已经来了。本文为大家带来了2020年以来顶会的5篇时间序列表示学习相关的核心工作梳理。
来源:DeepHub IMBA本文约1700字,建议阅读5分钟本文为你介绍常用的距离度量方法、它们的工作原理、如何用Python计算它们以及何时使用它们。 距离度量是有监督和无监督学习算法的基础,包括k近邻、支持向量机和k均值聚类等。 距离度量的选择影响我们的机器学习结果,因此考虑哪种度量最适合这个问题是很重要的。因此,我们在决定使用哪种测量方法时应该谨慎。但在做出决定之前,我们需要了解距离测量是如何工作的,以及我们可以从哪些测量中进行选择。 本文将简要介绍常用的距离度量方法、它们的工作原理、如何用Pyth
电力行业、化工行业、气象行业、地理信息等各类型实时监测、检查与分析设备所采集、产生的数据
今天为大家介绍一篇CIKM 2022中比较有意思的时间序列预测论文。这篇论文的独特之处在于,在其他论文都在卷深度学习时序预测模型结构时,这篇文章从检索引入相关数据的角度解决时序预测问题。
大家都知道预训练大型语言模型(LLMs)具有强大的表示学习能力和少样本学习,但要利用LLM处理时间序列,需要解决两个关键问题:
【导读】大家好,我是泳鱼。一个乐于探索和分享AI知识的码农!今天带来的这篇文章,提出了一种基于Transformer的用于长期时间序列预测的新方法PatchTST,取得了非常显著的效果。希望这篇文章能对你有所帮助,让你在学习和应用AI技术的道路上更进一步!
人类的大脑运作在大范围的功能网络中。这些网络是不同脑区域之间时间相关活动的表现,但全局网络特性和单个脑区神经动力学的关系仍然不完全清楚。本文展示了大脑的网络体系结构与神经正则性的关键时刻紧密相连,这些时刻表现为功能性磁共振成像信号中的自发“复杂性下降”,反应了脑区之间的功能连接强度,促进了神经活动模式的传播,并反映了个体之间的年龄和行为差异。此外,复杂性下降定义了神经活动状态,动态塑造了脑网络的连接强度、拓扑配置和层次结构,并全面解释了脑内已知的结构-功能关系。这些发现描绘了一种原则性的神经活动复杂性体系结构——人类的“复杂组”,它支撑着大脑的功能网络组织。
表示学习是机器学习中的一个重要研究方向,在NLP、CV领域有很多经典的表示学习工作。大多数表示学习利用无监督学习的方法,结合合适的正负样本pair构造、损失函数,学习便于让机器学习模型理解的样本表示。近期,表示学习也逐渐应用到了时间序列领域。今天给大家介绍一篇时间序列表示学习的前沿工作,是由北京大学和微软联合署名的一篇AAAI 2022工作TS2Vec。
概率时间序列预测是在广泛应用中出现的一个重要实际问题,包括金融、天气预报、脑成像和计算机系统性能管理等领域。针对这一任务,已经提出了各种方法,从传统的自回归模型到最近基于深度学习架构的神经预测方法。这些以前的方法大多集中在用来自相同领域的数据训练模型,以执行预测任务。
近年来,以注意力机制为结构核心的 Transformer 模型在时序预测领域取得了突破性进展,其点到点的注意力机制天然适合建模时间序列中的时序依赖。然而,预测非平稳的时序数据对这类模型而言依然是一项严峻挑战。非平稳的时序数据在现实世界中非常普遍,具有复杂且难以捕捉的时序依赖,以及随着时间不断变化的数据分布,这对深度模型的建模能力以及泛化性都提出了更高的要求。
今天为大家介绍一篇NIPS 2022清华大学的工作:Non-stationary Transformer。这篇文章主要针对不平稳时间序列预测问题,提出了一种新的Transformer结构,既能保留原始序列的重要信息,又能消除原始数据的不平稳性,显著提升了不平稳时间序列的预测效果。
今天介绍一篇南大今年4月份发表的文章,主要探讨了多元时间序列预测问题中,独立预测(channel independent)和联合预测(channel dependent)二者效果的差异、背后的原因以及优化方法。
多变量模式分析(MVPA)或大脑解码方法已经成为分析功能磁共振数据的标准做法。虽然解码方法已广泛应用于脑机接口,但其应用于时间序列神经成像数据(如脑磁图、脑电图)以解决认知神经科学中的实验问题是最近的事。在本教程中,我们描述了从认知神经科学的角度来告知未来时间序列解码研究的广泛选择。使用脑磁图数据的例子,我们说明了解码分析流程中的不同选项对实验结果的影响,目的是解码不同的知觉刺激或认知状态随时间的动态大脑激活模式。我们展示了在预处理(如降维、降采样、试次平均)和解码(如分类器选择、交叉验证设计)时所做的决策。除了标准解码外,我们还描述了对时变神经成像数据的MVPA的扩展,包括表征相似性分析、时间泛化和分类器权重图的解释。最后,我们概述了时间序列解码实验设计和解释中的重要注意事项。本文发表在Journal of Cognitive Neuroscience杂志。
多元时间序列预测任务主要解决的是输入多变量时间序列,预测多变量未来序列的问题,多变量的序列之间存在一定的相互影响关系。多元时间序列预测相比一般的单变量时间预测,如何在建模temporal关系的同时建立不同变量空间上的关系至关重要。今天给大家介绍两篇2022年8月份发表的最新多元时间序列预测工作,两篇工作均有开源代码。
PromeQL是prometheus内置的数据查询语言,其提供对时间序列数据丰富的查询,聚合以及逻辑运算能力的支持。并且被广泛应用在prometheus的日常应用当中,包括数据查询,可视化,告警处理当中,grafana绘图就是利用了prometheus里面的PromQL的功能
今天又是一篇Transformer梳理文章,这次应用场景是时间序列预测。Transformer的序列建模能力,让其天然就比较适合时间序列这种也是序列类型的数据结构。但是,时间序列相比文本序列也有很多特点,例如时间序列具有自相关性或周期性、时间序列的预测经常涉及到周期非常长的序列预测任务等。这些都给Transformer在时间序列预测场景中的应用带来了新的挑战,也使业内出现了一批针对时间序列任务的Transformer改造。下面就给大家介绍7篇Transformer在时间序列预测中的应用。
在大数据分析中,时间序列数据非常常见。如何通过编程来处理这些数据呢?HiveSQL 提供了两个强大的窗口函数:lag() 和 lead()。它们可以帮助我们计算每行相对于前一行或后一行的值。
皮层功能连接对于研究意识和麻醉非常重要,但是手术和麻醉过程中的功能连接模式是未知的。本研究假设手术麻醉会破坏连接模式。
自监督学习(SSL)最近在很多深度学习任务上取得了优异的表现,它最显著的优点是可以减少对标签数据的依赖。基于预训练和微调策略,即使只有少量的标签数据也可以取得不错的效果。
自监督学习(SSL)是一种机器学习方法,最近在各种时间序列任务上取得了令人印象深刻的表现。SSL最显著的优点是它减少了对标记数据的依赖。基于预训练和微调策略,即使是少量的标记数据也能实现高性能。
时间序列预测问题中数据形式的特殊性,导致了搭建模型过程中会遇到各种各样的坑。从头到尾搭建一个时间序列预测模型需要避开哪些坑?今天给大家总结一下我在实际工作中遇到的问题,包括数据、模型、指标、应用等四个方面的坑。
时间序列的聚类在时间序列分析中是非常重要的课题,在很多真实工业场景中非常有用,如潜在客户的发掘,异常检测,用户画像构建等。不同于一般样本聚类方式,时间序列因为其独特的时变特性,很多研究者都在探寻如何对其轨迹进行聚类。
Transformer 模型在自然语言处理和计算机视觉领域取得了巨大的成功,并成为了基础模型。然而,最近一些研究开始质疑基于Transformer的时间序列预测模型的有效性。这些模型通常将同一时间戳的多个变量嵌入到不可区分的通道中,并在这些时间标记上应用注意力机制来捕捉时间依赖关系。
时间序列预测中,我们经常使用的损失函数包括MSE、MAE等。这些损失函数的目标是预测结果和真实值每个点的差距最小。然而这样的点误差损失函数真的适用于所有时间序列预测任务吗?
特征提取在提高分类的准确性中起着非常关键的作用. 对时序特征提取的方法进行归纳分类, 将有利于对特征提取整体性, 全面性的认识. 回顾现有的时间序列中特征提取的方法, 将其总结为四大类, 它们分别是基于基本统计方法的特征提取、基于模型的特征提取、基于变换的特征提取、基于分形维数的特征提取。
时间序列是记录动态系统测量值的主要数据类型,由物理传感器和在线过程(虚拟传感器)大量生成。因此,时间序列分析对于揭示可用数据中隐含的信息财富至关重要。随着图神经网络(GNNs)的最新进展,基于GNN的时间序列分析方法大幅增加。这些方法可以明确地建模时序和变量间的关系,而传统的和其他基于深度神经网络的方法则难以做到。在这项调查中,我们对图神经网络在时间序列分析中的应用进行了全面回顾(GNN4TS),涵盖了四个基本维度:预测、分类、异常检测和填补。我们的目标是指导设计师和从业者了解、构建应用程序,并推进GNN4TS的研究。首先,我们提供了一个全面的面向任务的GNN4TS分类法。然后,我们介绍和讨论代表性研究成果,并介绍GNN4TS的主流应用。最后,我们全面讨论了潜在的未来研究方向。这项调查首次汇集了大量关于基于GNN的时间序列研究的知识,突出了图神经网络在时间序列分析中的基础、实际应用和机遇。
如果你还在为时间序列预测而苦恼,那就一起走进兴奋而又神奇的Prophet世界吧。
异常检测是监控实体(如制造系统和互联网服务)各种状态(即指标)的一项关键任务,这些实体的监控数据一般都是多维时间序列。在真实工业场景中,异常检测常常缺少足够的标签,如何对多维时间序列进行无监督的异常检测是一个非常重要的课题。
时间序列异常检测是一项重要的任务,其目标是从时间序列的正常样本分布中识别异常样本。这一任务的最基本挑战在于学习一个能有效识别异常的表示映射。
基于深度学习的时间序列预测方法一般采用端到端的方式训练模型,将原始的时间序列通过网络映射到一个表示,再基于这个表示进行预测。然而,这种方法将时间序列的所有信息映射成一个向量,这个向量耦合了很多不同维度的信息,容易造成过拟合,对序列中噪声的敏感程度也更高。
来源:机器之心本文约2600字,建议阅读9分钟在时间序列预测任务上,你不妨试试简单的机器学习方法。 在深度学习方法应用广泛的今天,所有领域是不是非它不可呢?其实未必,在时间序列预测任务上,简单的机器学习方法能够媲美甚至超越很多 DNN 模型。 过去几年,时间序列领域的经典参数方法(自回归)已经在很大程度上被复杂的深度学习框架(如 DeepGIO 或 LSTNet 等)更新替代。这是因为传统方法可能无法捕获长期和短期序列混合传递的信息,而深度学习方法的思路是掌握数据中的跨时非线性依赖。从结果来看,这些深度学习
静息状态功能连接在整个神经科学中被用于研究大脑组织和产生发育、疾病和认知的生物标志物。然而,人们对引起相关活动的过程知之甚少。在这里,我们使用一个时间展开过程来分解静止状态的功能连接,以评估时刻到时刻的活动共振荡对整体连接模式的贡献。
半监督时间序列分类可以有效地缓解标记数据缺乏的问题。然而,现有的方法通常忽略了模型的解释性,使得人类难以理解模型预测背后的原理。Shapelets是一组具有高度解释性的判别子序列,可用于时间序列分类任务。基于Shapelets学习的方法已显示出有前景的分类性能。遗憾的是,在没有足够的标记数据的情况下,通过现有方法学习的Shapelets通常判别性较差,甚至与原始时间序列的任何子序列都不相似。
2023年是大语言模型和扩散模型取得辉煌成就的一年,时间序列领域虽然没有那么大的成就,但是却有缓慢而稳定的进展。
2023年是大语言模型和稳定扩散的一年,时间序列领域虽然没有那么大的成就,但是却有缓慢而稳定的进展。Neurips、ICML和AAAI等会议都有transformer 结构(BasisFormer、Crossformer、Inverted transformer和Patch transformer)的改进,还出现了将数值时间序列数据与文本和图像合成的新体系结构(CrossVIVIT), 也出现了直接应用于时间序列的可能性的LLM,以及新形式的时间序列正则化/规范化技术(san)。
在过去的十年里,深度学习在时间序列建模方面取得了重大进展。在取得最先进成果的同时,表现最佳的架构在应用和领域之间差异很大。同时,对于自然语言处理,生成式预训练Transformer (GPT) 已经通过跨各种文本数据集训练一个通用模型,展现出了令人印象深刻的性能。探索GPT类型的架构是否可以有效应用于时间序列,捕捉其内在的动态属性,并显著提高准确性,这是一件非常有趣的事。
对时间序列的分析涉及生产生活中的方方面面,像监控告警、股票分析、营销预测等等,很多场景中,我们都有及时掌握海量时序数据中特征,快速决策的需求。传统的统计分析方法能展示时序上宏观的数理信息,然而其趋势的变化(或者说是曲线的走势)才更能说明一些问题,挖掘更多重要直观的价值出来。
机器之心报道 编辑:杜伟、陈萍 在深度学习方法应用广泛的今天,所有领域是不是非它不可呢?其实未必,在时间序列预测任务上,简单的机器学习方法能够媲美甚至超越很多 DNN 模型。 过去几年,时间序列领域的经典参数方法(自回归)已经在很大程度上被复杂的深度学习框架(如 DeepGIO 或 LSTNet 等)更新替代。这是因为传统方法可能无法捕获长期和短期序列混合传递的信息,而深度学习方法的思路是掌握数据中的跨时非线性依赖。从结果来看,这些深度学习方法不仅优于 ARIMA 等传统方法和梯度提升回归树(Gradien
最近,中国香港科技大学、上海AI Lab等多个组织联合发布了一篇时间序列无监督预训练的文章,相比原来的TS2Vec等时间序列表示学习工作,核心在于提出了将空间信息融入到预训练阶段,即在预训练阶段考虑各个序列之间的关系。因此,本文提出的方法也更适合作为时空预测领域的预训练模型。下面为大家详细介绍一下这篇文章。
今天介绍一篇本周最新发表的多元时间序列预测模型SCNN。这篇文章的核心是,利用因素分解的思路将多元时间序列预测问题模块化,并得益于分解和模块化建模方法,实现多元时间序列预测的可解释性建模。
来源:Deephub Imba本文约2600字,建议阅读5分钟在本文中,我们将看到在深入研究数据建模部分之前应执行的常见时间序列预处理步骤和与时间序列数据相关的常见问题。 时间序列数据随处可见,要进行时间序列分析,我们必须先对数据进行预处理。时间序列预处理技术对数据建模的准确性有重大影响。 在本文中,我们将主要讨论以下几点: 时间序列数据的定义及其重要性。 时间序列数据的预处理步骤。 构建时间序列数据,查找缺失值,对特征进行去噪,并查找数据集中存在的异常值。 首先,让我们先了解时间序列的定义: 时间序列是在
时间序列数据随处可见,要进行时间序列分析,我们必须先对数据进行预处理。时间序列预处理技术对数据建模的准确性有重大影响。
时间序列研究的是基因表达的动态行为,测量的是一系列和时间点之间有强烈相关性的过程。和针对某一时间点的基因表达进行差异分析不同,时间序列更加关注是发现基因表达的趋势,以有助于理解生物学动态变化过程(比如对刺激的反应、发育过程、周期行为等)。也就是说,时间序列关注的是整体变化趋势而不是某特异表达。
Pandas 是在金融建模的背景下开发的,正如你所料,它包含一组相当广泛的工具,用于处理日期,时间和时间索引数据。日期和时间数据有几种,我们将在这里讨论:
领取专属 10元无门槛券
手把手带您无忧上云