图神经网络

图神经网络（Graph Neural Networks, GNN）是一类专门处理图结构数据的深度学习模型。其核心思想是通过消息传递（Message Passing）机制，聚合图中节点及其邻居的信息，逐步更新节点的表示，从而捕捉图的结构特征和节点间复杂的依赖关系。以下是系统化的解释：

---

图数据的特点

• 非欧几里得结构：图数据由节点（Node）和边（Edge）组成，不遵循规则的网格或序列结构（如图像、文本）。
• 关系型数据：节点间的连接（边）隐含重要信息（如社交网络中的朋友关系、分子中的化学键）。
• 异质性：节点和边可携带不同类型的特征（如用户属性、交易类型）。

---

GNN的核心思想

• 消息传递范式：

  1. 邻居聚合（Aggregation）：每个节点收集其邻居节点的信息（如特征向量）。
  2. 更新（Update）：将聚合后的邻居信息与自身特征结合，生成新的节点表示。
  3. 迭代传播：通过多层堆叠，逐步捕获更广范围的图结构信息（类似CNN的深层感受野）。

• 目标：学习节点的低维向量表示（Embedding），使其编码拓扑结构和语义信息，适用于下游任务（如节点分类、链接预测）。

---

典型GNN模型

图卷积网络（Graph Convolutional Network, GCN）

• 核心公式：
  \[H^{(l+1)} = \sigma\left(\hat{D}^{-1/2} \hat{A} \hat{D}^{-1/2} H^{(l)} W^{(l)}\right) \]
  • \(\hat{A} = A + I\)：邻接矩阵加自环（节点自身信息）。
  • \(\hat{D}\)：度矩阵（用于归一化）。
  • \(H^{(l)}\)：第\(l\)层的节点特征矩阵。
• 特点：通过对称归一化处理邻接矩阵，避免节点度对特征尺度的影响。

图注意力网络（Graph Attention Network, GAT）

• 注意力机制：为每个邻居节点分配不同的权重（重要性），实现动态聚合。
  • 计算节点\(i\)和邻居\(j\)的注意力系数：
    \[\alpha_{ij} = \text{Softmax}\left(\text{LeakyReLU}\left(a^T [W h_i \| W h_j]\right)\right) \]

  • 加权聚合邻居信息：\(h_i' = \sigma\left(\sum_{j \in \mathcal{N}(i)} \alpha_{ij} W h_j\right)\)
• 优势：能捕捉异质邻居的重要性差异。

GraphSAGE

• 归纳式学习：通过采样邻居并聚合（如均值、LSTM、池化），生成未见过的图的节点表示。
• 公式：
  \[h_{\mathcal{N}(i)}^{(l)} = \text{AGGREGATE}\left(\{h_j^{(l-1)}, \forall j \in \mathcal{N}(i)\}\right) \]
  \[h_i^{(l)} = \sigma\left(W^{(l)} \cdot [h_i^{(l-1)} \| h_{\mathcal{N}(i)}^{(l)}]\right) \]

• 应用：适合动态图或大规模图（如社交网络）。

---

GNN的关键技术

消息传递的变体

• 聚合函数：均值、求和、最大值、注意力加权等。
• 更新函数：MLP、门控机制（如GRU）、残差连接。

层级架构设计

• 浅层GNN：捕获局部结构（1-hop邻居）。
• 深层GNN：通过多跳传播捕获全局信息，但可能引发过平滑（Over-Smoothing）问题（节点表示趋于相似）。

异构图与动态图

• 异构图：针对不同类型节点/边设计元路径（Meta-Path）或分层聚合。
• 动态图：结合时间序列建模（如TGAT、DySAT）。

---

GNN的应用场景

• 节点级任务：节点分类（如社交网络用户分类）、推荐系统（用户-商品交互图）。
• 边级任务：链接预测（如预测社交关系）、知识图谱补全。
• 图级任务：图分类（如分子属性预测）、图生成（如药物分子设计）。

---

GNN的挑战

• 计算复杂度：邻接矩阵的存储和操作对大规模图不友好，需采样或近似（如GraphSAGE的邻居采样）。
• 过平滑与过拟合：深层GNN易丢失局部信息，需结合残差连接、DropEdge等技术。
• 动态性建模：处理时序变化的图（如交通网络）需要结合RNN或Transformer。

---

GNN与其他模型的对比

模型	结构特点	核心机制	适用数据	优势	局限	典型应用
MLP	全连接层堆叠	全连接层 + 激活函数	结构化数据（非序列/非图）	简单易实现，适合简单分类/回归任务	参数多，易过拟合；无法捕捉空间/序列依赖	图像分类（简单任务）、房价预测
CNN	卷积层 + 池化层	卷积核局部感知 + 参数共享	网格数据（如图像、视频）	平移不变性，高效提取局部特征，参数共享降低计算量	全局依赖捕捉弱（需深层堆叠），对不规则数据（如图）不友好	图像分类、目标检测、图像分割
RNN	循环单元（如LSTM、GRU）	时间步递归 + 隐状态传递	序列数据（如文本、时间序列）	建模时序依赖关系	长序列梯度消失/爆炸，无法并行计算	文本生成、股票预测、机器翻译（早期）
Transformer	自注意力层 + 前馈网络 + 位置编码	自注意力机制 + 位置编码	序列数据（长文本、语音）	全局依赖捕捉，并行计算强，支持长序列建模	计算复杂度高（序列长度平方级），需大量数据	机器翻译（BERT、GPT）、语音识别
GNN	消息传递层（聚合邻居信息）	邻居聚合 + 节点更新	图结构数据（节点+边）	直接建模复杂关系，支持异质/动态图	计算复杂度高（邻接矩阵操作），深层模型易过平滑	社交网络分析、分子预测、推荐系统

---

总结

图神经网络通过消息传递机制，将传统深度学习的优势扩展到图结构数据，成为社交网络分析、化学分子建模、推荐系统等领域的核心技术。其核心在于如何有效聚合邻居信息，并通过层级堆叠平衡局部与全局特征。尽管面临计算效率和深度建模的挑战，GNN仍是处理复杂关系型数据的强大工具。