infomax专题

GNN 2021(十四) HDMI: High-order Deep Multiplex Infomax,WWW

本文算是对之前的模型Deep Graph Infomax(DGI)的一个改进,DGI主要作用于自监督的节点分类,使用最大化局部节点嵌入和全局摘要之间的互信息的方式在许多下游任务(如节点分类)上显示出了很好的结果。然而,DGI有两个主要的限制。首先,DGI只考虑外部监督信号(即节点嵌入与全局总结之间的互信息)而忽略了内在信号(即节点嵌入与节点属性之间的相互依赖)。其次,现实网络中的节点通常由多条关

【论文阅读】Deep Graph Infomax

目录 0、基本信息1、研究动机2、创新点2.1、核心思想:2.2、思想推导: 3、准备3.1、符号3.2、互信息3.3、JS散度3.4、Deep InfoMax方法3.5、判别器:f-GAN估计散度 4、具体实现4.1、局部-全局互信息最大化4.2、理论动机 5、实验设置5.1、直推式学习(Cora,Citeseer and Pubmed) 6、代码实现6.1、DGI6.2、GCNLayer