图神经网络 day2 图的分类

这篇具有很好参考价值的文章主要介绍了图神经网络 day2 图的分类。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1 GCN

公式:

图神经网络 day2 图的分类,神经网络

图神经网络 day2 图的分类,神经网络

图神经网络 day2 图的分类,神经网络

节点的特征从C维(X1)——》F维(Z1),并 进行softmax操作,得到每一个节点对应的label(Y1)

2 GraphSAGE

图神经网络 day2 图的分类,神经网络

图神经网络 day2 图的分类,神经网络

实例:

  1. 聚合周围邻居信息(领域特征),下图是求平均值
  2. 把邻居信息拼接到一起,再经过一个可学习的w参数

图神经网络 day2 图的分类,神经网络

2.1 采样:采样固定长度的邻居

图神经网络 day2 图的分类,神经网络

节点4是单向的,所以不考虑

图神经网络 day2 图的分类,神经网络

2.2 聚合

要满足以下性质:

  1. 聚合函数是对称的
  2. 聚合函数的输入和顺序是不变的

图神经网络 day2 图的分类,神经网络

2.3 GraphSAGE_minibatch

Minbatch : GraphSAGE采用聚合邻居,和GCN使用全图方式,变成采样。这样在minbatch下,可以不使用全图信息,这使得在大规模图上训练变得可行。把大图转换成小图

图神经网络 day2 图的分类,神经网络

例子

图神经网络 day2 图的分类,神经网络

图神经网络 day2 图的分类,神经网络

2.4 GraphSAGE_embedding

图神经网络 day2 图的分类,神经网络

作者提出的假设:如果这两个节点很近,那么他们的表征应该是相似的,反之,则他们的表征会有所不同

3 GAT

图神经网络 day2 图的分类,神经网络

求得节点i和周围节点的attention系数,再通过系数与邻居节点加权求和,那么就求得了该节点聚合周围节点后的特征。

图神经网络 day2 图的分类,神经网络

多头注意力机制

图神经网络 day2 图的分类,神经网络

三个节点表示了三类特征

图神经网络 day2 图的分类,神经网络

4. 图网络的分类

图神经网络 day2 图的分类,神经网络

图神经网络 day2 图的分类,神经网络

图神经网络 day2 图的分类,神经网络

4.1 递归图神经网络 RGNN

图神经网络 day2 图的分类,神经网络

递归和卷积都是学习特征,很明显,卷积图神经网络的卷积层参数可以是不一致的的

4.2 图卷积神经网络GCN

图神经网络 day2 图的分类,神经网络

得到节点有序序列

4.3 图注意力网络 GAT

4.4 图自动编码 GAE

GAE:encoder用GCN替换,得出的特征矩阵Z,decoder替换成Z的转置,通过转置生成的图与原图比较得出最小化结构性误差,通过最小损失函数可以得出GCN的参数

图神经网络 day2 图的分类,神经网络

VAE课程,李宏毅老师课程∶
https://www.bilibili.com/video/BV1tZ4y1L7gu?from=search&seid=15594710630639930905

4.5 图时空网络 GSTN

同时考虑图的空间性和时间维度·比如在交通邻域中﹐速度传感器会随时间变化的时间维度﹐不同的传感器之间也会形成连接的空间维度的边。
当前的许多方法都应用GCN来捕获图的依赖性,使用一些RNN或CNN对时间依赖性建模。

4.6 图生成网络 GGN

通过RNN或者GAN的方式生成网络。图生成网络的
一个有前途的应用领域是化合物合成。在化学图中﹐原子被视为节点﹐化学键被视为边·任务是发现具有某些化学和物理性质的新的可合成分子。

4.7 图强化学些 GRL

通过RNN或者GAN的方式生成网络。图生成网络的
一个有前途的应用领域是化合物合成。在化学图中﹐原子被视为节点﹐化学键被视为边·任务是发现具有某些化学和物理性质的新的可合成分子。

4.8 图对抗方法GAM

GAN的思想﹐生成器生成样本﹐分类器去判别样本。

4.9 更通用的框架

  1. MPNN∶图神经网络和图卷积/ Message Passing Neural Networks
  2. NLNN︰统一Attention/ Non-local Neural Networks
  3. GN︰统一以上/ Graph Networks

图神经网络 day2 图的分类,神经网络

图神经网络 day2 图的分类,神经网络

4.9.1 消息传递网络 MPNN

图神经网络 day2 图的分类,神经网络

Mt:聚合周围邻居信息

Ut:更新节点在下一层的特征表示

前面这两部分就跟GraphSAGE相似;最后,组合在一起就成了图的表示y hat。

4.9.2 非局部神经网络 NLNN

图神经网络 day2 图的分类,神经网络

f()求的就是节点i和相邻节点的attention系数,再求g()得出的该节点的特征,再归一化就是下一层的特征表示yi‘。

4.9.3 图神经网络 GN

图神经网络 day2 图的分类,神经网络

一个GN块包含三个更新函数函数φ和三个聚合函数ρ,各符号意义如下图所示:

图神经网络 day2 图的分类,神经网络

一个例子:Vsk:sender node;Vrk:receiver node;

图神经网络 day2 图的分类,神经网络

计算流程如下:

图神经网络 day2 图的分类,神经网络

整个算法的流程:

图神经网络 day2 图的分类,神经网络

MPNN应用于GN

图神经网络 day2 图的分类,神经网络

NLNN应用于GN

图神经网络 day2 图的分类,神经网络

4.10 其他图

图神经网络 day2 图的分类,神经网络

1. 异构图

不同节点构成的图

图神经网络 day2 图的分类,神经网络

2. 二部图

将图中节点分为两部分,每一边不跟自己相连

图神经网络 day2 图的分类,神经网络

3. 多维图

多种关系所组成的图

图神经网络 day2 图的分类,神经网络

4. 符号图

图之间的连接有正反符号

图神经网络 day2 图的分类,神经网络

5. 超图

一条边包含两个以上的节点。每个边所包含的顶点个数都是相同且为k个的,就可以被称为k阶超图,常见的图就是2阶超图。

图神经网络 day2 图的分类,神经网络

6. 动态图

图神经网络 day2 图的分类,神经网络

上面提到的图是静态的,观察时节点之间的连接是固定的。但是,在许多实际应用中,随着新节点被添加到图中,图在不断发展,并且新边也在不断出现。例如,在诸如Facebook的在线社交网络中,用户可以不断与他人建立友谊,新用户也可以随时加入Facebook。这些类型的演化图可以表示为动态图,其中每个节点或边都与时间戳关联。文章来源地址https://www.toymoban.com/news/detail-650170.html

到了这里,关于图神经网络 day2 图的分类的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 基于Transformer(卷积神经网络、循环神经网络)的情感分类研究

    Requirements: * Python: 3.8.5 * PyTorch: 1.8.0 * Transformers: 4.9.0 * NLTK: 3.5 * LTP: 4.0  Model: Attention:   论文解读参考:   https://blog.csdn.net/Magical_Bubble/article/details/89083225 实验步骤: 1)下载VSstudio2019 注意:安装时勾选“Python开发”和“C++桌面开发” 2) 下载和安装nvidia显卡驱动 下载之后

    2024年02月07日
    浏览(47)
  • 深度学习卷积神经网络垃圾分类系统 - 深度学习 神经网络 图像识别 垃圾分类 算法 小程序 计算机竞赛

    🔥 优质竞赛项目系列,今天要分享的是 深度学习卷积神经网络垃圾分类系统 该项目较为新颖,适合作为竞赛课题方向,学长非常推荐! 🧿 更多资料, 项目分享: https://gitee.com/dancheng-senior/postgraduate 近年来,随着我国经济的快速发展,国家各项建设都蒸蒸日上,成绩显著。

    2024年02月04日
    浏览(57)
  • 计算机竞赛 深度学习卷积神经网络垃圾分类系统 - 深度学习 神经网络 图像识别 垃圾分类 算法 小程序

    🔥 优质竞赛项目系列,今天要分享的是 深度学习卷积神经网络垃圾分类系统 该项目较为新颖,适合作为竞赛课题方向,学长非常推荐! 🧿 更多资料, 项目分享: https://gitee.com/dancheng-senior/postgraduate 近年来,随着我国经济的快速发展,国家各项建设都蒸蒸日上,成绩显著。

    2024年02月07日
    浏览(59)
  • 前馈神经网络多分类任务

    pytorch深度学习的套路都差不多,多看多想多写多测试,自然就会了。主要的技术还是在于背后的数学思想和数学逻辑。 废话不多说,上代码自己看。

    2024年02月12日
    浏览(46)
  • 神经网络分类算法原理详解

    目录 神经网络分类算法原理详解 神经网络工作流程 反向传播算法 1) 反向传播原理

    2024年02月12日
    浏览(47)
  • 图神经网络:(节点分类)在Cora数据集上动手实现图神经网络

    文章说明: 1)参考资料:PYG的文档。文档超链。 2)博主水平不高,如有错误,还望批评指正。 3)我在百度网盘上传这篇文章的jupyter notebook以及有关文献。提取码8488。 导入绘图的库,定义绘图函数。 目前,我并不知道TSNE降维理论。所以,暂时把它当作一种降维技术应该够了

    2024年02月05日
    浏览(33)
  • 图神经网络:(节点分类)在KarateClub数据集上动手实现图神经网络

    文章说明: 1)参考资料:PYG的文档。文档超链。 2)博主水平不高,如有错误,还望批评指正。 3)我在百度网盘上传这篇文章的jupyter notebook以及有关文献。提取码8488。 参考文献:SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS 中文翻译:用图神经网络进行半监督的分类 文献

    2024年02月07日
    浏览(34)
  • 图像分类卷积神经网络模型综述

    图像分类:核心任务是从给定的分类集合中给图像分配一个标签任务。 输入:图片 输出:类别。 MNIST数据集是用来识别手写数字,由0~9共10类别组成。 从MNIST数据集的SD-1和SD-3构建的,其中包含手写数字的二进制图像: MNIST数据集将SD-3作为训练集,将SD-1作为测试集,但SD-3比

    2023年04月14日
    浏览(39)
  • 基于卷积神经网络的目标分类案例

    卷积神经网络(Convolutional Neural Networks, CNN 是一类包含卷积计算且具有深度结构的前馈神经网络(Feedforward Neural Networks),是深度学习(deep learning)的代表算法之一 。卷积神经网络具有表征学习(representation learning)能力,能够按其阶层结构对输入信息进行平移不变分类(

    2024年02月12日
    浏览(53)
  • 循环神经网络RNN用于分类任务

    RNN是一类 拥有隐藏状态,允许以前的输出可用于当前输入 的神经网络,  输入一个序列,对于序列中的每个元素与前一个元素的隐藏状态一起作为RNN的输入,通过计算当前的输出和隐藏状态。当前的影藏状态作为下一个单元的输入...   上图中的红色方块代表输入,蓝色方块

    2024年02月09日
    浏览(39)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包