GNN（图神经网络）

GNN 的核心思想是「让节点通过反复与邻居交换信息来更新自身表示」。

• 图结构数据：由节点（顶点）和边组成，天然表达实体间的关系，如原子键、好友关系、知识三元组。
• 非欧几里得挑战：传统 CNN 依赖规则网格，无法直接处理节点数量和连接方式任意变化的图。
• 消息传递范式：每一层聚合邻居的特征，多层叠加后节点「看到」更大范围的上下文。
• 输出粒度：可做节点分类、边预测、整图分类三类任务，覆盖大多数图学习需求。
• 表达能力上界：理论上等价于 Weisfeiler-Leman（WL）图同构测试，区分能力有限。

消息传递可分为三个阶段，逐层迭代执行。

• 消息生成（Message）：每条边根据源节点、目标节点及边特征生成一条消息向量。
• 聚合（Aggregate）：目标节点收集所有入边消息，用求和、均值或最大池化等函数合并。
• 更新（Update）：将聚合结果与节点自身旧表示拼接或相加，送入可学习的变换（通常是 MLP）得到新表示。
• 读出（Readout）：做整图任务时，再对所有节点表示做全局池化，生成图级向量。
• 多层叠加：第 k 层的节点表示包含 k 跳邻居的信息，但层数过深会导致过平滑问题。

现代 GNN 家族以聚合方式和注意力机制为主要区分点。

• GCN（图卷积网络）：Kipf & Welling 于 2017 年提出，用归一化邻接矩阵做谱域卷积一阶近似，结构简单，是入门基准。
• GraphSAGE：Hamilton 等于 2017 年提出，对邻居采样后聚合，支持归纳式推断（可泛化到新节点）。
• GAT（图注意力网络）：Veličković 等于 2018 年提出，对不同邻居赋予可学习的注意力权重，提升表达能力。
• GIN（图同构网络）：Xu 等于 2019 年提出，聚合函数改为求和加 MLP，理论上达到 WL 测试的表达上限。
• 图 Transformer：借鉴 Transformer 全局注意力，突破局部邻居限制，适合长程依赖场景（如微软 Graphormer 2021）。

GNN 在多个领域已有成熟落地，尤其擅长结构先验明确的任务。

• 药物发现与分子设计：将分子建模为原子-键图，预测分子性质、药物毒性和蛋白质-配体结合亲和力。
• 推荐系统：将用户-商品关系建模为二部图，PinSage（Pinterest，2018）是工业界早期大规模落地案例。
• 知识图谱补全：在三元组图上预测缺失关系，捕获多跳关系推理能力。
• 社交网络分析：节点分类（识别虚假账号）、社区发现、影响力传播预测。
• 交通与时空预测：将路网建模为图，结合时序模型（如 STGCN）预测路况和流量。

GNN 在工程落地中面临若干共性难题。

• 过平滑（Over-Smoothing）：层数增加时节点表示趋于同质化，无法区分远距节点；实践中通常控制在 2–4 层。
• 过压缩（Over-Squashing）：指数增长的邻居信息被压缩进固定维向量，导致远端信号丢失，长程依赖捕获困难。
• 大图可扩展性：全批次训练内存开销随节点数线性增长；需要邻居采样（GraphSAGE）或集群采样（Cluster-GCN）缓解。
• 异构图处理：现实图常有多种节点与边类型，标准 GNN 需扩展为异构图网络（如 HAN、HGT）。
• 标注数据稀缺：图标注成本高，自监督预训练（如图对比学习）是活跃研究方向。

GNN 经历了从理论提出到工业爆发的约二十年演进。

• 2005：Gori 等人首次提出图上神经网络的基本概念，尚未形成完整形式化。
• 2009：Scarselli 等在 IEEE Transactions on Neural Networks 发表「The Graph Neural Network Model」，给出递归消息传递的严格数学框架，是公认的奠基论文。
• 2013：Bruna 等提出谱图卷积，将谱图理论引入深度学习。
• 2016：ChebNet（Defferrard 等）用切比雪夫多项式近似谱卷积，大幅降低计算复杂度。
• 2017：GCN（Kipf & Welling）将 ChebNet 简化为一阶近似，成为最广泛引用的基线；GraphSAGE 同年提出归纳学习范式。
• 2018：GAT 引入注意力机制；PinSage 证明 GNN 可在十亿级图上工业化落地。
• 2019：GIN 从理论角度明确 GNN 表达能力上界。
• 2021：Graphormer（微软）将 Transformer 系统性迁移到图，赢得 OGB 多项榜首。
• 2022 至今：图基础模型（Graph Foundation Model）探索跨域预训练迁移，GNN 与大语言模型融合成新前沿。