基于GPT+Adaptor的时间序列多任务统一大模型

今天跟大家聊一聊大模型时间序列预测的最新工作，来自阿里巴巴达摩院，提出了一种基于adaptor的通用时间序列分析框架，在长周期预测、短周期预测、zero-shot、few-shot、异常检测、时间序列分类、时间序列填充等7项时间序列任务上都取得了显著的效果。

论文标题：One Fits All: Universal Time Series Analysis by Pretrained LM and Specially Designed Adaptors

下载地址：https://arxiv.org/pdf/2311.14782v1.pdf

1
背景

搭建时间序列预测领域的大模型的一个难点在于，比较难获取到像NLP、CV领域中那样海量充足的训练数据。为了解决这个问题，这篇文章提出以NLP或CV领域训练好的大模型为底座，结合Adaptor技术，适配到时间序列中，解决各类时间序列问题。

Adaptor在NLP、CV等领域应用很广泛，尤其是最近大模型应用中，adaptor经常被用来进行大模型的轻量级finetune。Adaptor是一个轻量级网络，通过将其插入到大模型中的一些模块中，然后fix大模型参数，只更新adaptor的参数，就可以实现轻量级的大模型finetune。

下面，给大家介绍阿里达摩院这篇工作中，是如何利用adaptor结合预训练的NLP、CV模型搭建统一时间序列模型的。

2
整体结构

本文提出的模型基于Freeze参数的预训练语言模型，结合4种类型的adaptor实现。整体模型结构如下图所示。

首先，对于输入时间序列，使用RevIN的方式进行归一化，即减去每个时间序列的均值，除以每个时间序列的方差。然后使用PatchTST中的方式，将时间序列通过滑动窗口切分成多个patch，生成patch embedding。处理好后的时间序列，会输入到一个NLP领域的预训练语言模型中，整个训练过程中，语言模型的原始参数固定不变，只更新模型中新增的4类adaptor参数。

3
Adaptor设计

本文提出了4种类型的adaptor，插入到大模型中的不同位置，以此实现让NLP、CV领域的大模型适配时间序列的目的。这4种adaptor分别是temporal adaptor、channel adaptor、frequency adaptor、anormaly adaptor。

Temporal Adaptor：temporal adaptor是一个时间维度的MLP网络，用来融合时间维度的信息，文中采用bottlenect的结构，先将时间维度或空间维度的高维信息映射到低维，然后再映射回高维空间，以此在提取时序关系的过程中防止过拟合的风险。

Channel Adaptor：channel adaptor的结构和temporal adaptor相似，区别在于在空间维度进行，用来提取多元序列各个变量之间的关系，也采用了bottlenect；

Frequency Adaptor：frequency adaptor在频域进行时间序列的信息提取，这部分将时间序列映射到频域，在频域做MLP，然后再映射回时域，以此实现频域这种全局信息的提取。

Anomaly Adapter：这部分主要是实现了一种新的时间序列异常检测方法，这里利用了attention score矩阵，对于正常序列attention score矩阵呈现周期重复的特性，而异常序列则没有，因此文中使用一个高斯核作为anomaly adaptor，用attention的输出结果和其计算KL散度进行时间序列异常检测。

此外，各个adaptor对不同数据的影响不同，因此文中使用了一个gate网络，进行有选择性的adaptor使用。

4
实验效果

文中在7种时间序列任务上进行了效果对比，本文提出的时间序列统一大模型取得了超出各个任务业内SOTA模型的效果，例如下面是长周期预测任务，基于GPT2+Adaptor的统一模型取得了最优的效果。

END