软件所在因果图表示学习方面取得进展

文章来源:  |  发布时间:2023-12-29  |  【打印】 【关闭

  

  近日,中国科学院软件研究所天基综合信息系统重点实验室研究团队的论文Rethinking Causal Relationships Learning in Graph Neural Networks被人工智能领域顶级学术会议Association for the Advancement of Artificial IntelligenceAAAI)接收,共同第一作者为博士生高航、硕士生姚成钰。论文首次提出了一种新颖的合成数据集CRCG,用来分析GNN的因果建模能力,并进一步构建了轻量级GNN因果增强模块R-CAM 

  图表示学习的挑战之一在于将复杂的图映射为相对简单、紧凑的向量表示的同时,还要能保留重要的结构和语义洞察力。GNN结合神经网络成为应对这一挑战的有力工具。但GNN建模数据和标签之间通常是统计关系,相较于因果关系,无法保证完全反映真实世界,在复杂的图数据中可能会降低可靠性。为增强GNN的因果建模能力,使GNN能够把握数据和标签之间的因果关系,研究团队希望通过构造数据集来观察数据中的混杂因素如何影响GNN训练。 

  基于上述探索和分析,研究团队遵循统计因果学的规律,从因果学习的角度全面分析各种GNN模型,构建了一个人工合成的数据集CRCG,其中数据和标签之间的因果关系已知且可控。同时,通过理论基础分析进一步保证生成数据的合理性,引入轻量级且高度适应性的GNN模块,增强GNN在各种任务中的因果学习能力。 

  研究团队利用CRCG进行了一系列实验,比较了五种因果增强GNN和传统GNN在不同场景下的性能差异。在图数据中存在混杂因素的情况下,采用因果增强方法的GNN呈现有效性。实验从概率、数据量、显著度三个层面来实证分析混杂因素的影响,结果证明混杂因素与因果因素之间的概率关系是影响因果增强GNN算法有效性的首要因素。基于此结果,团队提出了一个基于表示的因果关系增强模块R-CAM。通过人工合成数据集和真实数据集的多次对比实验,结果表明集成R-CAM后,大多数算法在跨数据集上有平均超过5%的精度提升,验证了R-CAM在强调数据中的因果信息方面的有效性。

CRCG的实验结果图

  论文地址:http://arxiv.org/abs/2312.09613  

  代码地址:https://github.com/yaoyao-yaoyao-cell/CRCG