深度学习模型的可解释性为其预测提供了人类可以理解的推理。如果不解释预测背后的原因，深度学习算法就像黑匣子，对于一些场景说是无法被信任的。不提供预测的原因也会阻止深度学习算法在涉及跨域公平、隐私和安全的关键应用程序中使用。

深度学习模型的可解释性有助于增加对模型预测的信任， 提高模型对与公平、隐私和其他安全挑战相关的关键决策应用程序的透明度，并且可以让我们了解网络特征，以便在将模型部署到现实世界之前识别和纠正模型所犯错误的系统模式。

图在现实世界中无处不在，代表社交网络、引用网络、化学分子、金融数据等。图神经网络 (GNN) 是一个强大的框架，用于对图相关数据进行机器学习，例如节点分类、图分类、和链接预测。

神经网络解释性 神经网络的解释性_应用程序

所以本文探讨以下5方面

  • GNN 需要可解释性
  • 解释 GNN 预测的挑战
  • 不同的 GNN 解释方
  • GNNExplainer的直观解释
  • 使用 GNNExplainer 解释节点分类和图分类的实现

图卷积神经网络 (GCN)、GraphSAGE 和图注意网络 (GAT) 等 GNN 通过沿输入图的边缘递归传递神经消息，将节点特征信息与图结构相结合。

神经网络解释性 神经网络的解释性_神经网络解释性_02

同时结合图结构和特征信息会导致复杂的模型；因此，解释 GNN 的预测是具有挑战性的。

  • 图数据不如图像和文本直观，这使得对图深度学习模型的人类可以理解的解释具有挑战性。
  • 图像和文本使用网格状数据；但是在拓扑图中，信息是使用特征矩阵和邻接矩阵来表示的，每个节点都有不同的邻居。因此图像和文本的可解释性方法不适合获得对图的高质量解释。
  • 图节点和边对 GNN 的最终预测有显着贡献；因此GNN 的可解释性需要考虑这些交互。
  • 节点分类任务通过执行来自其邻居的消息遍历来预测节点的类别。消息游走可以更好地了解 GNN 做出预测的原因，但这与图像和文本相比更具有挑战性。