论文阅读 - VGAER: Graph Neural Network Reconstruction based Community Detection-Toy模板网

这篇具有很好参考价值的文章主要介绍了论文阅读 - VGAER: Graph Neural Network Reconstruction based Community Detection。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

https://arxiv.org/pdf/2201.04066.pdf

社群检测是网络科学中一个基础而重要的问题，但基于图神经网络的社群检测算法为数不多，其中无监督算法几乎是空白。

本文通过将高阶模块化信息与网络特征融合，首次提出了基于变异图自动编码器重构的社群检测 VGAER，并给出了其非概率版本。它们不需要任何先验信息。

我们根据社群检测任务精心设计了相应的输入特征、解码器和下游任务，这些设计简洁、自然、性能良好（在我们的设计下，NMI 值提高了 59.1% - 56.59%）。

基于广泛的数据集和先进方法的一系列实验，VGAER 取得了优异的性能，并以更简单的设计显示出强大的竞争力和潜力。最后，我们报告了算法收敛性分析和 t-SNE 可视化结果，这些结果清晰地描述了 VGAER 的稳定性能和强大的网络模块化能力。我们的代码见 https://github.com/qcydm/VGAER。

Introduction

作为描绘现实世界最重要的物理工具之一，网络数据如今正逐渐向大规模、复杂化和模块化方向发展。例如，社交平台网络（Wang 等人，2015 年）、基因工程中的蛋白质相互作用网络（Pizzuti 和 Rombo，2014 年）、交通网络（Von Ferber 等人，2009 年）等。不仅节点之间存在复杂的相互作用，网络还会因为这种相互作用和节点的贡献而形成不同的群落。从拓扑学角度看，群落可以理解为内部节点连接相对紧密，外部节点连接相对稀疏。识别这种局部结构对于理解复杂系统和发现知识至关重要（Krishnamurthy 和 Wang，2000 年）。

上述任务就是社区检测。关于社群检测的研究有很多。特别是近年来随着图神经网络的发展，2019年首次提出了基于图神经网络的社区检测方法（Chen、Li和Bruna，2017）（Shchur和G¨unnemann，2019），包括超视图方法：基于非回溯理论（Chen、Li和Bruna，2017）、基于马尔可夫随机场（Jin等，2019）和已知的无监督方法：基于复杂回归重构的方法GUCD(2020)（He等，2021a），以及基于负样本对比学习和自表达性的SE21a。2019）以及已知的无监督方法：基于复杂回归重构的方法 GUCD(2020) （He 等人，2021a）和基于负样本对比学习和自我表达的 SEComm(2021) （Bandyopadhyay 和 Peter，2021）。然而，大数据系统网络社区的先验信息（如标签）有时很稀缺，这也给上述半监督方法和几乎罕见的无监督方法带来了巨大挑战。因此，为这一领域提出更好的无监督方法就显得尤为重要。

另一方面，经过大量全面的文献调查，我们发现目前所有的图神经网络群落检测（Chen, Li, and Bruna 2017）（Shchur and G¨unnemann 2019）（Jin et al. 2019) (He et al. 2021a)，甚至所有聚类方法，如 MGAE (Wang et al. 2017)、ARGA (Pan et al. 2018)、AGC (Zhang et al. 2019)、SDCN (Bo et al. 2020) 和 AGE (Cui et al. 2020) 等。这些方法只注重保留网络结构和节点特征（A + X），以及不同正则化方法或模型设计为网络嵌入带来的聚类增益；与以往方法根本不同的是，我们首次在基于图神经网络的社群检测中提出了一种基于模块化和网络结构（B + A + X）的无监督联合优化方法 VGAER，该方法具有严格的模块化理论基础，更适合社群检测，网络结构（A）被隐式捕获（通过消息传递阶段），无需显式重构。

我们还注意到，Yang 在 2016 年利用这一模块化理论提出了一种基于自动编码器的非线性重构方法（记为 DNR）（Yang et al. 2016）。2018 年之后，在这项工作的基础上，又有人提出了多种整合不同网络特征的自动编码器重构方法（Cao et al. 2018）（Bha- tia and Rani 2018）（Cao, Jin, and Dang 2018）。然而，这些方法往往需要额外的操作，而且捕捉网络特征的能力有限，因此当针对未知群落结构的网络时，这种 DNR 方法的 Q 值非常低。我们将在第 4 节中演示这一现象。总之，与这些基于自动编码器的群落检测方法相比，我们的 VGAER 不仅具有更好的性能，而且还扩展到了基于自动编码器的方法尚未覆盖的变分模型中。

最后，我们横向比较了 VGAER 和先进的基于无监督 GNN 重构的 GUCD（He et al. 2021a）的检测效果，充分显示了 VGAER 即使与最先进、最复杂的方法相比也具有很强的竞争力，以及进一步发展的潜力（如更复杂的架构和设计）。我们的创新贡献和见解如下：

本文提出了一种基于图变分推理的全新社群检测方法，并给出了更精确的非概率版本。并在广泛的数据集和参数算法上获得了卓越的性能改进。

- 首次提出了基于模块化和网络结构的联合优化框架。VGAER 性能的提高得益于我们模型的非线性模块化重构和邻域拉普拉斯平滑，这可以部分缓解单一模块化最大化导致的极端退化问题（Good、De Montjoye 和 Clauset，2010 年）和恢复限制（Fortunato 和 Barthelemy，2007 年）。

- VGAER 不仅能处理群落检测任务，还具有强大的生成能力，这意味着 VGAER 还能在不同前提下根据所学分布灵活生成嵌入。我们期待 VGAER 未来能在社区节点预测、社区嵌入、个人隐私保护等方面发挥作用。我们将在附录中为这些机会描绘更广阔的图景。