2023.8.1号论文阅读

这篇具有很好参考价值的文章主要介绍了2023.8.1号论文阅读。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

MCPA: Multi-scale Cross Perceptron Attention Network for 2D Medical Image Segmentation

摘要

基于卷积神经网络(CNN)的UNet架构在医学图像分析中表现出了显著的性能。
然而,由于有限的接受域和卷积运算固有的偏见,它在捕获远程依赖方面面临挑战。最近,许多基于变压器的技术被整合到UNet体系结构中,通过有效地捕获全局特征相关性来克服这一限制。但是,Transformer模块的集成可能会导致在全局特征融合过程中丢失局部上下文信息。为了克服这些挑战,

我们提出了一种二维医学图像分割模型,称为多尺度交叉感知器注意网络(MCPA)。MCPA由三个主要部件组成:编码器、解码器和交叉感知器。交叉感知器首先使用多个多尺度交叉感知器模块捕获局部相关性,促进跨尺度特征的融合。得到的多尺度特征向量在空间上展开、连接,并通过一个全局感知器模块来建模全局依赖关系。

此外,我们引入了渐进式双分支结构来解决涉及更细组织结构的图像的语义分割。这种结构逐渐将MCPA网络训练的分割重点从大规模结构特征转移到更复杂的像素级特征。我们在来自不同任务和设备的几个公开可用的医学图像数据集上评估了我们提出的MCPA模型,包括CT (Synapse), MRI (ACDC),眼底相机(DRIVE, CHASE_DB1, HRF)和OCTA (ROSE)的开放大规模数据集。实验结果表明我们的MCPA模型达到了最先进的性能
代码地址

本文方法

2023.8.1号论文阅读,# 全监督,论文阅读
2023.8.1号论文阅读,# 全监督,论文阅读
2023.8.1号论文阅读,# 全监督,论文阅读

实验结果

2023.8.1号论文阅读,# 全监督,论文阅读

SwinMM: Masked Multi-view with SwinTransformers for 3D Medical Image Segmentation

摘要

近年来,大规模VIt的进步在改善医学图像分割的预训练模型方面取得了重大进展。然而,这些方法在获取大量的预训练数据方面面临着显著的挑战,特别是在医学领域。为了解决这一限制,我们提出了带有Swin变压器的遮罩多视图(SwinMM),这是一种新的多视图管道,用于实现准确和数据高效的自监督医学图像分析。我们的策略通过结合两个主要组成部分来利用多视图信息的潜力。在预训练阶段,我们部署了一个屏蔽多视图编码器,旨在通过一系列不同的代理任务并发训练屏蔽多视图观测值。

这些任务包括图像重建、旋转、对比学习和一个采用相互学习范式的新任务。这项新任务利用了来自不同角度的预测之间的一致性,从而能够从3D医疗数据中提取隐藏的多视图信息。在微调阶段,开发了一种跨视点解码器,通过交叉注意块聚合多视点信息。与之前最先进的自监督学习方法Swin UNETR相比,SwinMM在多个医学图像分割任务上表现出显著的优势。它允许多视图信息的平滑集成,显著提高了模型的准确性和数据效率。
代码地址

本文方法

2023.8.1号论文阅读,# 全监督,论文阅读
训练的策略。为了结合三维体的多个视角,我们从不同的观察角度生成了视图,包括轴向、冠状和矢状。此外,我们应用了与每个角度对齐的旋转操作,包括沿相应方向的0◦、90◦、180◦和270◦角度。为了便于自我监督的预训练,我们设计了四个代理任务。
重建和旋转任务分别衡量模型在每个输入上的性能,而对比和相互学习任务使模型能够跨多个视图集成信息

重建任务比较未掩码输入X与重建图像y rec之间的差值。下面采用均方误差(Mean-SquareError, MSE)来计算重建损失

对比学习任务旨在通过比较多个视图的高级特征来评估模型在表示输入数据方面的有效性。

我们的工作假设是,尽管从不同的角度来看,同一样本的表征在地方层面上可能有所不同,但在全球层面上它们应该是一致的。为了计算对比损失,我们使用余弦相似度sim(·),其中y con i和y con j表示对比对,t是温度常数,1是指示函数

2023.8.1号论文阅读,# 全监督,论文阅读

2023.8.1号论文阅读,# 全监督,论文阅读

实验结果

2023.8.1号论文阅读,# 全监督,论文阅读文章来源地址https://www.toymoban.com/news/detail-622303.html

到了这里,关于2023.8.1号论文阅读的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【论文阅读】MCTformer: 弱监督语义分割的多类令牌转换器

    Multi-class Token Transformer for Weakly Supervised Semantic Segmentation 本文提出了一种新的基于变换的框架来学习类特定对象定位映射作为弱监督语义分割(WSSS)的伪标签    可以利用标准视觉转换器中一个类令牌的参与区域来形成与类无关的定位映射,我们研究了转换器模型是否也可以通

    2024年04月17日
    浏览(42)
  • 【阅读论文】USAD:多变量时间序列上的无监督异常检测

    USAD : UnSupervised Anomaly Detection on Multivariate Time Series IT系统的自动监控是Orange目前面临的挑战。考虑到其IT运营所达到的规模和复杂性,随着时间的推移,用于推断正常和异常行为的测量所需的传感器数量急剧增加,使得传统的基于专家的监督方法变得缓慢或容易出错。在本文中

    2024年02月12日
    浏览(38)
  • 【半监督医学图像分割 2023 】UCMT 论文翻译

    论文题目:Co-training with High-Confidence Pseudo Labels for Semi-supervised Medical Image Segmentation 中文题目:基于高置信度伪标签的联合训练半监督医学图像分割 论文链接:https://arxiv.org/abs/2301.04465 论文代码:https://github.com/Senyh/UCMT 发表时间:2023年1月 论文团队:东北大学福建师范大学阿

    2024年02月06日
    浏览(36)
  • 论文阅读 1| 从仿真域到实验域无监督轴承故障诊断的新型联合传输网络

    标题: Novel Joint Transfer Network for Unsupervised Bearing Fault Diagnosis From Simulation Domain to Experimental Domain 期刊:IEEE-ASME TRANSACTIONS ON MECHATRONICS      (2022) 作者:Yiming Xiao, Haidong Shao,SongYu Han, Zhiqiang Huo,and Jiafu Wan 解决的问题 :迁移诊断场景仅限于实验域,跨 域边缘分布和条件分

    2024年01月24日
    浏览(32)
  • 自监督论文阅读笔记 RingMo: A Remote Sensing Foundation Model with Masked Image Modeling

            深度学习方法促进了遥感 (RS) 图像解释的快速发展。最广泛使用的训练范式是利用 ImageNet 预训练模型来处理指定任务的 RS 数据。然而,存在  自然场景与RS场景之间的领域差距 ,以及 RS模型泛化能力差 等问题。开发 具有通用 RS 特征表示的基础模型 是有意义的。

    2024年02月16日
    浏览(40)
  • 【论文阅读】基于纤维束成像的新型微结构信息引导的监督对比学习,自动识别视网膜丘视觉通路

    Li, S., Zhang, W., Yao, S., He, J., Zhu, C., Gao, J., Xue, T., Xie, G., Chen, Y., Torio, E. F., Feng, Y., Bastos, D. C. A., Rathi, Y., Makris, N., Kikinis, R., Bi, W. L., Golby, A. J., O’Donnell, L. J., Zhang, F. (2024). Tractography-based automated identification of the retinogeniculate visual pathway with novel microstructure-informed supervised contrast

    2024年02月01日
    浏览(30)
  • 【自监督论文阅读笔记】EVA: Exploring the Limits of Masked Visual Representation Learning at Scale

            本文推出了 EVA ,这是一个 以视觉为中心 的基础模型,旨在仅使用可公开访问的数据来 探索大规模 视觉表示的 局限性 。EVA 是一种经过预训练的普通 ViT,用于 重建 以可见图像块为条件的 屏蔽掉的 图像-文本对齐(image-text aligned)的视觉特征 。通过这个前置任

    2024年02月06日
    浏览(44)
  • 用于无监督视频异常检测的合成伪异常:一种简单有效的基于掩码自动编码器的框架 论文阅读

    论文标题:SYNTHETIC PSEUDO ANOMALIES FOR UNSUPERVISED VIDEO ANOMALY DETECTION: A SIMPLE YET EFFICIENT FRAMEWORK BASED ON MASKED AUTOENCODER 文章信息: 发表于:ICASSP 2023(CCF B) 原文链接:https://arxiv.org/abs/2303.05112 源码:无 由于用于训练的异常样本的可用性有限,视频异常检测通常被视为一类分类问题

    2024年02月04日
    浏览(39)
  • 【论文阅读】(2023.06.09-2023.06.18)论文阅读简单记录和汇总

    2023/06/09:虽然下周是我做汇报,但是到了周末该打游戏还是得打的 2023/06/12:好累好困,现在好容易累。 (TCSVT 2023)Facial Image Compression via Neural Image Manifold Compression (arxiv 2023)Exploring the Rate-Distortion-Complexity Optimization in Neural Image Compression (arxiv 2023)High-Similarity-Pass Attenti

    2024年02月09日
    浏览(29)
  • 图像融合论文阅读:CS2Fusion: 通过估计特征补偿图谱实现自监督红外和可见光图像融合的对比学习

    @article{wang2024cs2fusion, title={CS2Fusion: Contrastive learning for Self-Supervised infrared and visible image fusion by estimating feature compensation map}, author={Wang, Xue and Guan, Zheng and Qian, Wenhua and Cao, Jinde and Liang, Shu and Yan, Jin}, journal={Information Fusion}, volume={102}, pages={102039}, year={2024}, publisher={Elsevier} } 论文级

    2024年01月22日
    浏览(43)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包