SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接

这篇具有很好参考价值的文章主要介绍了SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

会议分析

论文出处: arXiv预印版
除了没有代码,其余没毛病🚀

摘要

近年来,U 形网络因其简单且易于调整的结构而在医学图像分割领域占据主导地位。然而,现有的U型分割网络:1)大多侧重于设计复杂的自注意力模块来弥补基于卷积运算的长期依赖性的不足,这增加了网络的总体参数数量和计算复杂度; 2)简单地融合编码器和解码器的特征,忽略它们空间位置之间的联系。在本文中,我们重新思考上述问题并构建了一个轻量级的医学图像分割网络,称为SegNetr。具体来说,我们引入了一种新颖的 SegNetr 模块,它可以在任何阶段动态地执行局部-全局交互,并且仅具有线性复杂度。同时,我们设计了**通用信息保留跳跃连接(IRSC)**来保留编码器特征的空间位置信息并实现与解码器特征的精确融合。我们在四个主流医学图像分割数据集上验证了 SegNetr 的有效性,其参数和 GFLOP 比普通 U-Net 分别减少了 59% 和 76%,同时实现了与最先进方法相当的分割性能。值得注意的是,本文提出的组件可以应用于其他 U 形网络,以提高其分割性能。


贡献

  1. 我们提出了一种轻量级的 U 形 SegNetr 分割网络,具有更少的计算成本和更好的分割性能。
  2. 我们研究了传统U形跳跃连接框架的潜在缺陷,并改进了具有信息保留的跳跃连接。
  3. 当我们将本文提出的组件应用于其他U形方法时,分割性能获得了一致的改进。

方法

整体框架

SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接,论文研读,会议论文研读,pytorch,深度学习,人工智能,计算机视觉,机器学习
1. 左边是常见的五层编码器,每个编码模块都是由Patch Merging+Segnetr block组成;
2. segnetr block由局部分区和全局分区两层实现
作为即插即用的模块,如果该论文公开代码,会极大的促进各位的工作🐕

1. SegNetr Block

SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接,论文研读,会议论文研读,pytorch,深度学习,人工智能,计算机视觉,机器学习
1. 特征首先经过Efficent Net的基础模块 MBConv进行初步提取 Efficient Net
2. 局部分区使用的是VIT+Flatten+FFN+残差
3. 全局分区使用的是Swin VIt+Flatten+FFN+残差
没有代码真的很难解读

2.Information Retention Skip Connection

SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接,论文研读,会议论文研读,pytorch,深度学习,人工智能,计算机视觉,机器学习
这个图画的真的很好,可以作为跳跃连接优化部分的基础图,将原始UNet的跳跃连接修改,在数据结合之前添加了PatchMerge-PatchReverse操作

实验

用了四个公共数据集:ISIC2017和 PH2 两个皮肤病分割数据集,、TNSCUI 甲状腺分割数据集、 ACDC核磁共振心脏分割数据集

1.对比实验

与9个模型在四个数据集上对Dice、IoU、Params和GFLOPs四指标进行比较
SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接,论文研读,会议论文研读,pytorch,深度学习,人工智能,计算机视觉,机器学习
SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接,论文研读,会议论文研读,pytorch,深度学习,人工智能,计算机视觉,机器学习
结果喜人,就是没有代码 🐕

2.消融实验

2.1 Effect of local-global interactions.

SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接,论文研读,会议论文研读,pytorch,深度学习,人工智能,计算机视觉,机器学习
分别是不带Local-Global、Only Local、Only Global、线性、并行,结果是并行的效果最好

2.2 Effect of patch size

SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接,论文研读,会议论文研读,pytorch,深度学习,人工智能,计算机视觉,机器学习
测试SegNetr block中patch的大小对模型整体的影响!

2.3 Effect of IRSC

SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接,论文研读,会议论文研读,pytorch,深度学习,人工智能,计算机视觉,机器学习
主要是看信息增强跳连接(IRSC)对其他模型的影响文章来源地址https://www.toymoban.com/news/detail-701300.html

可借鉴参考

  1. 阅读 UNeXt 2022
    Valanarasu J M J, Patel V M. Unext: Mlp-based rapid medical image segmentation network. In: MICCAI. pp. 23-33. Springer (2022)
    🚀解读已写:UNext:基于 MLP 的快速医学图像分割网络
  2. 阅读 MedT 2021
    Valanarasu J M J, Oza P, Hacihaliloglu I, et al. Medical transformer: Gated axialattention for medical image segmentation. In: MICCAI. pp. 36-46. Springer (2021)
  3. 阅读 FAT-Net 2022
    Wu H, Chen S, Chen G, et al. FAT-Net: Feature adaptive transformers for automated skin lesion segmentation. MED IMAGE ANAL, 76: 102327. (2022)
  4. 阅读 Maxvit 2022
    Tu Z, Talebi H, Zhang H, et al. Maxvit: Multi-axis vision transformer. In: ECCV. pp. 459-479. (2022)
  5. 阅读Uctransnet 2022
    Wang H, Cao P, Wang J, et al. Uctransnet: rethinking the skip connections in u-net from a channel-wise perspective with transformer. In: AAAI. pp. 36(3): 2441-2449. (2022)
  6. 阅读 ConvUNeXt 2022
    Han Z, Jian M, Wang G G. ConvUNeXt: An efficient convolution neural network for medical image segmentation. KBS, 253: 109512. (2022)
    KBS期刊

到了这里,关于SegNetr: 重新思考 U 形网络中的局部-全局交互和跳过连接的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Java中的全局变量和局部变量(看这篇就够了)

    在Java中,全局变量和局部变量是两种不同作用域的变量。 全局变量(成员变量) : 在类中定义的变量称为成员变量,也叫全局变量。它们的作用域是整个类,在类的任何地方都可以被访问。 如果没有显式地初始化,它们会有默认值。 全局变量可以是基本数据类型(如int、

    2024年02月04日
    浏览(45)
  • 高光谱分类论文解读分享之局部聚合与全局关注网络的高光谱影像分类

    Local aggregation and global attention network for hyperspectral image classification Zhonghao Chen, Guoyong Wu, Hongmin Gao, Yao Ding, Danfeng Hong, Bing Zhang Hyperspectral (HS) image, Graph neural networks, Classification, Superpixel segmentation, Transformer. 现有基于超像素分割的高光谱分类模型所采用的超像素分割方法没有考虑到

    2024年01月21日
    浏览(41)
  • 实习成长之路:关于ElasticSearch深度分页带来的思考,如何解决深度分页和跳页

    我们在平常使用ElasticSearch构建查询条件的时候一般用的都是from+size的方式进行分页查询,但是如果我们的页数太深/页面大小太大(from*size)10000就会引发一个错误,我们将会得到一个错误 这是为什么呢? 因为ES的分页查询其实是这样来的 因为ElasticSeach的天生分布式的原因,我

    2023年04月27日
    浏览(42)
  • 网络安全实战对抗中的观察与思考

    在本次攻防演练的过程中,绿盟科技M-SEC社区监测并确认了上百个漏洞在被积极利用,其中0day和1day漏洞的数量较往年有所提升,但nday漏洞依然是主力。 近日,一场行业瞩目的大型实战化网络安全攻防演练活动落下帷幕,在这场没有硝烟的博弈中,攻击方一路攻城掠寨,防守

    2024年02月09日
    浏览(46)
  • 图像哈希:全局+局部提取特征

    文章信息 作者:梁小平,唐振军 期刊:ACM Trans. Multimedia Comput. Commun. Appl(三区) 题目:Robust Hashing via Global and Local Invariant Features for Image Copy Detection 目的、实验步骤及结论 目的:通过全局和局部提取特征来生成最终图像的哈希值。 实验步骤: 数据预处理:双线性插值(5

    2024年04月27日
    浏览(43)
  • Golang 局部变量、全局变量 声明

    四种声明方式 + 多变量声明: 全局变量的声明和局部变量的声明方式一、二、三 相同; 但是不能使用局部变量声明方式四 (:=) 来声明全局变量。

    2024年02月13日
    浏览(37)
  • 全局变量、局部变量和静态变量

    定义:在函数外定义的变量是全局变量,全局变量可以为本文件中其它函数所共用,它的有效范围从定义变量的位置开始到本源文件结束。 设全局变量的作用:增加了函数间数据联系的渠道; 不必要时不要使用全局变量,因为:a) 全局变量在程序的全部执行过程中都占用存

    2024年02月06日
    浏览(36)
  • 小程序——局部组件与全局组件

    目录 前言 二、引用组件 1.局部引用 2.全局引用 3.全局引用 VS 局部引用 三、自定义组件 - 样式 1. 组件样式隔离 2. 组件样式隔离的注意点 3.修改组件的样式隔离选项

    2024年02月12日
    浏览(51)
  • C语言——局部和全局变量

    局部变量 定义在函数内部的变量称为局部变量(Local Variable) 局部变量的作用域(作用范围)仅限于函数内部, 离开该函数后是无效的 离开该函数后,局部变量自动释放 示例代码: 全局变量 在所有函数外部定义的变量称为全局变量(Global Variable),它的作用域默认是整个程

    2024年02月10日
    浏览(40)
  • 变量的存储类型(全局,局部,静态,动态)

    存储类型 是指变在内存中的存储方式,有静态存储和动态存储方式。 1.静态存储方式 静态存储方式的变量存储在内存的静态区,在程序编译时就已经分配好了内存空间。在整个程序运行时,该变量一直占有固有的内存空间,程序结束后才释放该部分内存空间。其中静态局部

    2024年02月03日
    浏览(43)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包