文章目录
- 前言
- 深度学习基础
- 监督学习
- 损失函数
- 随机梯度下降
- 反向传播
- 图神经网络简介
- 图表示学习的发展历史
- 图神经网络
- 图滤波操作
- 通用的GNN框架(节点任务)
- 图池化操作
- 通用的GNN框架(图任务)
- 谱图论
- 拉普拉斯矩阵作为算子
- 拉普拉斯矩阵的特征分解
- 特征向量作为图上的信号
- 图傅立叶变换(GFT)
- 图滤波
- 两大类图滤波操作
- 最早的图滤波操作
- 图谱滤波
- 将图谱滤波运用到GNN上
- GCN-Filter: 简化的Cheb-Filter
- 处理多通道图信号的GCN-Filter
- 从空间域理解GCN-Filter
- 从图信号降噪的角度理解GCN-Filter
- 图池化
- 图池化操作
- 通用的GNN框架(图任务)
- 平面池化
- 平均池化和最大池化
- 添加虚拟节点进行池化
- 基于注意力机制的平面池化
- 层次图池化操作
- 总结
前言
- 机器学习 = 数据挖掘 = 人工智能
- 深度学习:使用深度神经网络进行机器学习
- 图深度学习:使用深度学习对图进行机器学习
- 图深度学习 = 图神经网络
深度学习基础
监督学习
损失函数
随机梯度下降
- iteration = step= 输入一个mini batch = 一次迭代 = 一步
- epoch = 一轮 = 完整遍历训练集的所有样本一遍
反向传播
图神经网络简介
图表示学习的发展历史
图神经网络
图滤波操作
通用的GNN框架(节点任务)
图池化操作
通用的GNN框架(图任务)
谱图论
拉普拉斯矩阵作为算子
拉普拉斯矩阵的特征分解
特征向量作为图上的信号
图傅立叶变换(GFT)
图滤波
两大类图滤波操作
最早的图滤波操作
图谱滤波
将图谱滤波运用到GNN上
GCN-Filter: 简化的Cheb-Filter
处理多通道图信号的GCN-Filter
从空间域理解GCN-Filter
GraphSage-Filter
ECC-Filter
GGNN-Filter
MPNN
PPNP
APPNP
一些滤波操作的简单回顾
从图信号降噪的角度理解GCN-Filter
从图降噪角度理解PPNP
从图降噪角度理解GCN
从图降噪角度理解GAT
一个统一的理解
一个统一的框架: UGNN
利用UGNN设计新的图滤波操作
Graph Trend Filtering
图池化
图池化操作
通用的GNN框架(图任务)
平面池化
平均池化和最大池化
添加虚拟节点进行池化
基于注意力机制的平面池化
层次图池化操作
gPool
SAGPool
DiffPool
Eigenpooling
通过傅立叶变换得到
用傅立叶系数作为特征
用截断傅立叶系数作为特征
总结
本文主要回顾了一下深度学习的相关知识,先从总体上对图神经网络进行了简要介绍,图表示学习从数据降维发展到图嵌入到图神经网络。图神经网络需要一些谱图论的知识,因此本文又介绍了谱图论的相关知识,包括拉普拉斯矩阵和傅里叶变化等。最后介绍了图神经网络中常见的两种操作:图滤波和图池化。