Self-Supervised Node Representation Learning via Node-to-Neighbourhood Alignment
题目：通过节点到邻域对齐的自监督节点表示学习
作者： W. Dong; D. Yan; P. Wang
源码：https://github.com/dongwei156/n2n
摘要
自监督节点表示学习的目标是从无标签图中学习节点表示，使其能够与有监督的同类相媲美。学习信息丰富节点表示的关键在于如何有效地从图结构中获取上下文信息。在本项工作中，我们提出了一种简单而有效的自监督节点表示学习方法，通过将节点与其邻域的隐藏表示对齐来实现。我们的第一个想法是通过直接最大化它们表示之间的互信息来实现这种节点到邻域的对齐，我们从理论上证明了这一点，在图平滑方面发挥了作用。我们的框架通过替代的对比损失进行优化，并且提出了一种拓扑感知正采样（TAPS）策略，通过考虑节点之间的结构依赖性来采样正样本，从而实现离线正选择。考虑到对比学习中过多的内存开销，我们进一步提出了一种无负样本的解决方案，其中主要贡献是图信号去相关（GSD）约束，以避免表示坍塌和过度平滑。GSD约束统一了一些现有的约束，并可用于推导新的实现，以对抗表示坍塌。通过将我们的方法应用于简单的基于MLP的节点表示编码器，我们学习到的节点表示在从小规模到大规模的一系列图结构数据集上实现了有希望的节点分类性能。