GNN 2021(十四) HDMI: High-order Deep Multiplex Infomax，WWW

本文算是对之前的模型Deep Graph Infomax（DGI）的一个改进，DGI主要作用于自监督的节点分类，使用最大化局部节点嵌入和全局摘要之间的互信息的方式在许多下游任务(如节点分类)上显示出了很好的结果。然而，DGI有两个主要的限制。首先，DGI只考虑外部监督信号(即节点嵌入与全局总结之间的互信息)而忽略了内在信号(即节点嵌入与节点属性之间的相互依赖)。其次，现实网络中的节点通常由多条关系不同的边连接，而DGI并没有充分挖掘节点之间的各种关系。因此本文提出了HDMI模型，主要的贡献为：

• 本文提出了一种基于高阶互信息的监督信号，将外部互信息和内在互信息结合起来，用于学习在属性网络和属性复用网络上的网络嵌入。
• 我们引入了一种新的高阶深度信息最大化(HDI)来优化提出的基于互信息的高阶监控信号。
• 提出了一种基于注意力的融合模块，通过基于高阶互信息的监控信号来训练多路网络中不同层次的节点嵌入。
• 在不同的真实数据集上用不同的评价指标来评估所提方法，以证明所提方法的有效性。

PRELIMINARIES

Attributed Multiplex Network。定义为