AGCRN总结

Adaptive Graph Convolutional Recurrent Network

 for Traffic Forecasting 总结

作者：Lei Bai, Lina Yao, et al. UNSW

来源：NeurIPS 2020

代码：https://github.com/LeiBAI/AGCRN

1 论文动机

       目前基于GCN的交通预测方法，需要预先定义的邻接矩阵以捕获空间相关性。论文认为，可以在不预定义图的情况下，学习节点特定模式。为此，提出两个增强图卷积的自适应模块：1）节点自适应参数学习（NAPL）模块，捕获特定节点模式；2）数据自适应图生成（DAGG）模块，自动推断出不同交通序列间的依赖关系。论文基于这两个模块和递归网络，提出一个自适应图卷积递归网络（AGCRN），自动捕获交通序列细粒度的时空相关性。

        AGCRN可以捕获交通序列中特定节点细粒度的时空相关性，并将修改后的GCN中的节点嵌入与DAGG中的嵌入统一起来。训练AGCRN可以为每个交通系列源产生一个有价值的信息节点表示向量，能应用于多种预测任务。

2 论文创新

2.1提出一个由NAPL增强的GCN（NAPL-GCN）：

问题：基于GCN的模型，只捕获所有节点间的共享模式难以准确预测流量，必须为每个节点维护唯一的参数空间以学习特定节点的模式。但为每个节点分配参数将使Θ太大难优化，导致过拟合。

办法：不直接学习Θ∈RN×C×F，NAPL学习两个较小的参数矩阵：节点嵌入矩阵Eg∈RN×d和权重池Wg∈RD×C×F。 然后，Θ=Eg·Wg.

2.2提出一个由DAGG增强的GCN（DAGG-GCN）：

问题：基于GCN的交通预测模型，为进行图卷积运算需要一个预定义的邻接矩阵A。但它不能包含关于空间依赖的完整信息，也不与预测任务直接相关，这可能会导致相当大的偏差。此外，如果没有适当的知识，这些方法就不能适应其他领域，从而使现有的基于GCN的模型无效。

办法：提出数据自适应图生成(DAGG)模块，从数据中自动推断隐藏的相互依赖关系。1）DAGG模块随机初始化所有节点的可学习节点嵌入字典EA∈RN×de（每行EA表节点的嵌入，de表节点嵌入维数）；2）类似节点相似性定义图，可以通过将EA和ETA相乘推断每对节点间的空间依赖关系：

直接生成

，避免迭代训练过程中不必要的重复计算。

2.3提出自适应图卷积递归网络AGCRN——同时捕捉交通数据时空相关性，自动发现与DAGG模块的空间依赖关系。

说明：AGCRN将所有嵌入矩阵统一为E，而非在不同的NAPL-GCN层和DAGG中学习单独节点嵌入矩阵。这提供了一个正则化器，确保所有GCN块间嵌入的节点一致。

3 论文模型

3.1 叠加几个AGCRN层作为编码器，捕获节点时空相关性；

3.2 应用线性变换将表示从RN×d。 投影到RN×τ，直接获得所有节点下一个τ时间步的交通预测结果。

3.3 L1损失为训练目标，并将损失优化为多步预测。

4 论文实验

4.1 数据集

说明：

1. 两个数据集每5分钟为一个时间步，每天288个时间步。
2. 标准归一化 对数据集归一化，使训练过程更稳定。
3. 12个时间步的历史数据为输入，未来12个时间步数据为输出。
4. 按时间顺序将数据集分成训练集、验证集和测试集分割比6：2：2。

4.2 评价指标

4.3 对比方法

1）HA

2）VAR：捕捉所有交通序列之间空间相关性

3）GRU-ED：基于GRU的编解-码器框架，可多步时间序列预测；

4）DSANet：CNN捕获时间相关性，自注意机制捕捉空间相关性；

5）DCRNN：扩散卷积递归神经网络，它将图形卷积与扩散过程结合起来，以编解码器方式将GCN与GRU结合起来进行多步预测；

6）STGCN：时空图卷积网络，它分别部署GCN和时间卷积捕获时空相关性；

7）ASTGCN：基于注意力的时空图卷积网络，它将时空注意机制集成到STGCN中，以捕捉动态的时空相关性。采取 recent components预测；

8）STSGCN：时空同步图卷积网络，通过在时间轴上叠加多个有邻接矩阵的局部GCN层，捕捉时空相关性。

说明：所有基于深度学习的模型，都是用Pytorch1.3.1在Python中实现的，使用一个NVIDIA Titan X GPU card执行。 Adam优化器，100个epochs，early stop strategy with the patience of 15。所有深度学习模型的最佳参数都是通过在验证集上仔细的参数调整过程选择的。

4.4 实验结果

Prediction performance:

Ablation Study:

 Model Analysis：

在PeMSD4数据集，图4 显示不同嵌入维数对AGCRN的影响。当嵌入维数=10，AGCRN达到最佳预测性能。

Computation Cost： AGCRN的计算成本适中

本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场，不承担相关法律责任。如若转载，请注明出处。 如若内容造成侵权/违法违规/事实不符，请点击【内容举报】进行投诉反馈！