四十八.图卷积网络(GCN)

这篇具有很好参考价值的文章主要介绍了四十八.图卷积网络(GCN)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1.卷积神经网络

CNN 在图像识别等任务中具有重要作用,主要是因为 CNN 利用了图片(信号)在其域中的局部平移不变性。由于图结构不存在平移不变性,所以 CNN 无法直接在图上进行卷积。

1.1局部平移不变性

CNN 之所以能成为图像领域的明珠却很少应用于其他领域原因是:「图片是一个规整的二维矩阵」,无论卷积核平移到图片中的哪个位置都可以保证其运算结果的一致性,这就是我们所说的「局部平移不变性」。CNN 的卷积本质就是利用这种平移不变性来对扫描的区域进行卷积操作,从而实现了图像特征的提取。
而网络是不规整的关系型数据,所以其不存在平移不变形(每个节点的周围邻居数不固定),这就使得传统的 CNN 方法无法直接应用于网络中。
有了局部平移不变形,才能实现参数共享。
但是,图结构的数据不具备这些特性,那么怎么在graph进行卷积操作?
自我理解如下章。

2.傅里叶分析、图拉普拉斯和图卷积网络

傅里叶分析包含傅里叶级数和傅里叶变换,本质上是一种基坐标转换,即将我们通常的函数的基坐标从时域换成了频域。频域的基坐标有三个维度:频率,振幅,相位差。
傅里叶级数和傅里叶变换的区别?
傅里叶级数主要针对周期性的函数进行投影,傅里叶变换主要针对非周期(周期无限大)的函数。
傅里叶级数:时域是一个周期且连续的函数,而在频域是一个非周期离散的函数。
傅里叶变换:时域非周期的连续信号,而在频域是非周期的连续信号。
为什么要使用傅里叶分析?
可以将一个复杂函数看做多个函数的复合(将一个不规则波分解为多个正弦波和余弦波),便于处理(如滤波)。
傅里叶分析、图拉普拉斯和图卷积网络怎么柔和到一起的?
通过定义图上的傅里叶变换,就可以定义图上的卷积操作。
图拉普拉斯算子给出了图上的傅里叶变换的基,实现了图傅里叶变换,从而可以在图上进行卷积操作。

3.图卷积网络公式

f ( H ( l ) , A ) = σ ( D ^ − 1 2 A ^ D ^ − 1 2 H ( l ) W l ) f(H^{(l)},A)=\sigma (\widehat{D}^{-\frac{1}{2}}\widehat{A}\widehat{D}^{-\frac{1}{2}}H^{(l)}W^{l}) f(H(l),A)=σ(D 21A D 21H(l)Wl)
公式解析:
A A A:graph的邻接矩阵。
A ^ \widehat{A} A A ^ = A + I \widehat{A}=A+I A =A+I,邻接矩阵和单位矩阵的矩阵和,相当于将图中的每个节点添加了一个自相关的边。
D D D:graph的度矩阵。
D ^ \widehat{D} D D ^ = D + I \widehat{D}=D+I D =D+I,度矩阵和单位矩阵的矩阵和,为了标准归一化。
D ^ − 1 2 A ^ D ^ − 1 2 \widehat{D}^{-\frac{1}{2}}\widehat{A}\widehat{D}^{-\frac{1}{2}} D 21A D 21:对邻接矩阵做了一个对称的归一化。
H ( l ) H^{(l)} H(l):上一层的输出,本层的输入。
W ( l ) W^{(l)} W(l):权重矩阵,对输出做了线性变换。
σ \sigma σ():非线性激活函数。
为什么要给邻接矩阵加上单位矩阵?
只使用邻接矩阵的话,由于A的对角线上都是0,所以在和特征矩阵H相乘的时候,只会计算一个node的所有邻居的特征的加权和,该node自己的特征却被忽略了。加上单位矩阵后,相当于每个节点增加了一条自连接的边,邻接矩阵中增加了node的信息。
为什么要对邻接矩阵做对称归一化?
层级传播后,A的值会叠加累乘,产生类似于梯度爆炸或者梯度消失的效果。
为什么度矩阵的逆矩阵会对邻接矩阵产生归一化效果?
度矩阵的每一行的值等于邻接矩阵每一行的值之和,因此,其逆矩阵可以对
邻接矩阵进行归一化。文章来源地址https://www.toymoban.com/news/detail-626200.html

到了这里,关于四十八.图卷积网络(GCN)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【深度学习理论】(5) 图卷积神经网络 GCN

    尽管在过去的几年中,神经网络的兴起与成功应用使得许多目标检测、自然语言处理、语音识别等领域都有了飞跃发展,但是将 RNN 或者GCN这样的深度学习模型拓展到任意结构的图上是一个有挑战性的问题。 受限于传统深度学习方法在处理非欧式空间数据上的局限性,基于图

    2024年02月11日
    浏览(30)
  • GCN-图卷积神经网络算法讲解(通俗版)

    由于博主学疏才浅,经过一段时间学习,只能做到基础层面的理解,本文就较为通俗地讲解一下图卷积神经网络算法, 下篇文章会讲解代码实现部分! 文章目录 GCN-图卷积神经网络算法介绍和算法原理 1. GCN从何而来 2. GCN是做什么的 3. GCN算法的原理 3.1 GCN的结构 3.2 GCN的传

    2024年02月01日
    浏览(29)
  • T-GCN:用于交通流预测的时序图卷积网络

     1.文章信息 本次介绍的文章是2020年发表在IEEE 智能交通系统汇刊上的《T-GCN: A Temporal Graph Convolutional Network for Traffic Prediction》。 2.摘要 为了同时捕获空间和时间依赖性,本文提出了一种新的基于神经网络的交通流预测方法——时间图卷积网络(T-GCN)模型,该模型将图卷积网络

    2024年02月16日
    浏览(28)
  • 故障诊断 | 一文解决,GCN图卷积神经网络模型的故障诊断(Matlab)

    故障诊断 | 一文解决,GCN图卷积神经网络模型的故障诊断(Matlab) GCN(Graph Convolutional Network)是一种基于图结构数据进行卷积操作的神经网络模型。它在处理图数据上展现了很好的性能,特别适用于节点分类、图分类和图生成等任务。 GCN模型的核心思想是将图结构数据转化

    2024年04月11日
    浏览(73)
  • 使用PyG(PyTorch Geometric)实现基于图卷积神经网络(GCN)的节点分类任务

    PyG(PyTorch Geometric)是一个基于PyTorch的库,可以轻松编写和训练图神经网络(GNN),用于与结构化数据相关的广泛应用。 它包括从各种已发表的论文中对图和其他不规则结构进行深度学习的各种方法,也称为几何深度学习。此外,它还包括易于使用的迷你批处理加载程序,用

    2023年04月20日
    浏览(33)
  • 深入浅出【图卷积神经网络GCN】从 邻接矩阵、特征值矩阵、单位阵、度矩阵 入手,深刻理解融合邻居节点(信息) | GCN从公式到代码实现 全过程 | 在Cora数据集上实现节点分类任务

      这个世界虽然破破烂烂,可总有一些人在缝缝补补,以耀眼的光芒照耀这片大地。   🎯作者主页: 追光者♂🔥          🌸个人简介:   💖[1] 计算机专业硕士研究生💖   🌟[2] 2022年度博客之星人工智能领域TOP4🌟   🏅[3] 阿里云社区特邀专家博主🏅   🏆[4] CSDN-人

    2024年02月13日
    浏览(26)
  • 【Java】Java(四十八):日志

    程序中的日志可以用来记录程序在运行的时候点点滴滴。并可以进行永久存储。 日志与输出语句的区别 体系结构 Log4J Log4j是Apache的一个开源项目。 通过使用Log4j,我们可以控制日志信息输送的目的地是控制台、文件等位置。 我们也可以控制每一条日志的输出格式。 通过定义

    2024年02月08日
    浏览(31)
  • 代码随想录第四十八天

    题目链接 : 打家劫舍I 自己的思路 :想不太出来递推公式!!!! 正确思路 :这个题主要是看是否偷第下标为i的房间;直接动规五部曲:1、dp数组的含义:dp[i]表示从下标0到下标i(包括下标i,但不一定偷下标i)所能偷到的最大金钱数;2、递推公式:分为偷下标i和不偷下标

    2024年02月12日
    浏览(30)
  • leetcode解题思路分析(一百四十八)1289 - 1296 题

    下降路径最小和 II 给你一个 n x n 整数矩阵 grid ,请你返回 非零偏移下降路径 数字和的最小值。非零偏移下降路径 定义为:从 grid 数组中的每一行选择一个数字,且按顺序选出来的数字中,相邻数字不在原数组的同一列。 f[i][j] 表示从数组的前i行中的每一行选择一个数字,

    2024年02月09日
    浏览(28)
  • Apache Doris (四十八): Doris表结构变更-替换表

     🏡 个人主页:IT贫道_大数据OLAP体系技术栈,Apache Doris,Clickhouse 技术-CSDN博客  🚩 私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。  🔔 博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频 目录

    2024年02月07日
    浏览(32)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包