图神经网络

  • 前言
  • 一、图神经网络基本知识
  • 二、图游走类算法
  • 三、图卷积神经网络
  • 四、图注意力网络
  • 五、图采样算法
  • 六、总结体会



前言

图神经网络的基本知识 最近在打卡图神经网络7天训练营 总结一下 废话不多说 先来张图

DAG 图神经网络 图神经网络总结_卷积

一、图神经网络基本知识

图可以分为

无向图 vs 有向图

无权图 vs 有权图

同构图 vs 异构图

DAG 图神经网络 图神经网络总结_卷积_02

图可以用邻接矩阵 邻接表 边集表示

二、图游走类算法

图游走类模型最开始参考的就是 NLP 领域中的 Word2vec模型,Word2vec 模型自行了解 主要是 Skip Gram 和 Negative Sampling

DAG 图神经网络 图神经网络总结_卷积_03


和Word2vec 句子对应 图游走类模型如何得到网络中节点的序列呢

DAG 图神经网络 图神经网络总结_神经网络_04

DAG 图神经网络 图神经网络总结_神经网络_05

DAG 图神经网络 图神经网络总结_神经网络_06


deepwalk nodework 都是同构图的游走

DAG 图神经网络 图神经网络总结_网络_07

三、图卷积神经网络

之前没怎么弄懂的图卷积公式 居然在这张图弄懂了

DAG 图神经网络 图神经网络总结_神经网络_08

DAG 图神经网络 图神经网络总结_神经网络_09

图卷积的概念 在下面两张图显而易见 就是聚合邻居节点(和自身?)的特征

DAG 图神经网络 图神经网络总结_网络_10


DAG 图神经网络 图神经网络总结_神经网络_11

图卷积过程讲解

DAG 图神经网络 图神经网络总结_DAG 图神经网络_12

DAG 图神经网络 图神经网络总结_基本知识_13

DAG 图神经网络 图神经网络总结_卷积_14


DAG 图神经网络 图神经网络总结_DAG 图神经网络_15


DAG 图神经网络 图神经网络总结_DAG 图神经网络_16

四、图注意力网络

DAG 图神经网络 图神经网络总结_网络_17

图注意力网络就是学习邻居节点特征聚合对中心节点的贡献度 这个节点之间的影响力权重可以计算的 与节点的相关性有关 而图卷积网络的权重是只与节点度相关 不可学习的

DAG 图神经网络 图神经网络总结_神经网络_18

五、图采样算法

互联网中动则亿量级的图数据 由于当代的GPU/CPU资源受限 无法一次性全图送入计算资源,需要借鉴深度学习中的MiniBatch

DAG 图神经网络 图神经网络总结_神经网络_19


GraphSAGE详解

DAG 图神经网络 图神经网络总结_基本知识_20


DAG 图神经网络 图神经网络总结_神经网络_21


DAG 图神经网络 图神经网络总结_DAG 图神经网络_22


PinSAGE详解

DAG 图神经网络 图神经网络总结_神经网络_23


DAG 图神经网络 图神经网络总结_DAG 图神经网络_24

DAG 图神经网络 图神经网络总结_基本知识_25

六、总结体会

7天的课程终于结束了 理解了之前很多看书本没理解的知识 果然跟着直播上课的效果不一样 一群人在学习 讨论的效果比一个人战斗要有效率得多 后面的知识要自己慢慢花时间领会了 这只是一个简单的入门 后面要多接触论文方面的知识了 注重实践领域