PyTorch实现图注意力网络（GAT）

近年来，图神经网络在图数据领域中表现出了强大的能力。其中，图注意力网络（Graph Attention Networks，简称GAT）是一种重要的图神经网络模型。本文将介绍如何使用PyTorch实现GAT，并提供相应的源代码。

1. GAT简介

GAT是由Veličković等人于2018年提出的一种基于自注意力机制的图神经网络模型。与传统的卷积神经网络和循环神经网络不同，GAT在节点之间引入注意力机制，使得每个节点都可以根据其邻居节点的特征进行自适应加权。这种自适应性使得GAT能够有效地处理节点之间复杂的关系。

在GAT中，每个节点都有一个特征向量表示，通过计算节点与其邻居节点的注意力系数，可以得到节点的新特征表示。具体而言，给定节点 i 的特征向量 h_i 和邻居节点 j 的特征向量 h_j，那么节点 i 与节点 j 之间的注意力系数可以定义为：

e<sub>ij</sub> = LeakyReLU(a<sup>T</sup> [W<sub>1</sub>h<sub>i</sub>, W<sub>2</sub>h<sub>j</sub>])

其中，a 是一个可学习的权重向量，W₁ 和