【论文阅读】深度多视图聚类的自监督判别特征学习

这篇具有很好参考价值的文章主要介绍了【论文阅读】深度多视图聚类的自监督判别特征学习。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

Self-Supervised Discriminative Feature Learning for Deep Multi-View Clustering

文章链接
聚类结构不明确的某些视图所带来的负面影响,导致多视图聚类性能较差,所以本文提出SDMVC。

深度编码器用来独立的学习每个视图;为了利用互补信息,将所有视图的嵌入特征串联起来形成全局特征,可以克服某些视图聚类结构不清晰的负面影响。以自监督的方式获得伪标签,建立统一的目标分布,进行多视图判别特征学习。

在此过程中,可以挖掘全局判别信息来监督所有视图,从而学习到更多的判别特征,进而用于更新目标分布。此外,这种统一的目标分布可以使SDMVC学习一致的聚类分配,在保持多视图特征多样性的同时,实现了多视图聚类的一致性

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

Fig. 1a 不同视图特征的判别程度不同(判别度越高的特征越有利于聚类

Fig. 1b 特征拼接时,判别性高的聚类结构在划分全局特征空间中起主要作用,可以产生高置信度的伪标签,克服聚类结构不清晰带来的负面影响

Fig. 1c and 1d 伪标签可以引导所有视图学习更多的判别特征,从而产生更清晰的聚类结构和更准确的伪标签

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

自监督多视图判别特征学习

采用相应的自编码器通过优化重构损失Lv r来学习低维嵌入特征zv。

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

其中qv ij是第i个示例属于第v个视图中的第j个集群的概率(软集群分配)。软赋值衡量的是嵌入特征与聚类质心之间的相似度,因此聚类性能取决于嵌入特征的判别程度。

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

为了利用所有视图中的判别信息,将所有嵌入的特征连接起来以生成全局特征

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

对全局特征应用K-means计算聚类质心

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

研究结构清晰的观点(高判别观点)对结构不清晰的观点(低判别观点)的作用,上述式子改写如下。

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

这个式子可以使得全局特征zi在不同视图中被划分到同一个簇

选择Student的t分布作为核函数度量全局特征zi与聚类质心cj之间的相似度。利用相似度生成伪软分配(伪标签)sij进行自监督学习。

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

为了提高伪软分配的可判别性,我们对其进行增强,得到统一的目标分布(记为P)

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

聚类损失:统一目标分布P与自身的聚类分配分布Qv之间的Kullback-Leibler散度(DKL)

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

每个视图的总损失

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

通过执行所提出的特征学习,可以利用全局判别信息迭代地引导所有视图学习更多的判别特征,特别是对于那些具有低判别特征的视图。最终,提高了所有视图嵌入特征的可分辨性,从而获得更清晰的聚类结构。

最终聚类预测:

【论文阅读】深度多视图聚类的自监督判别特征学习,多视图,论文阅读,聚类,学习

本文提出了一种新的自监督判别特征学习框架,用于深度多视图聚类(SDMVC)。与现有的MVC方法不同,SDMVC可以克服某些聚类结构不明确的视图对聚类性能的负面影响。它以自监督的方式,利用全局的判别信息建立统一的目标分布,用于学习更多的判别特征和多视图的一致预测。从理论上分析了该方法的泛化界。在不同类型的多视图数据集上的实验表明,该方法比目前最先进的多视图聚类方法具有更好的性能。此外,SDMVC具有与数据大小成线性关系的复杂性,因此其特征学习范式具有其他应用的潜力,例如半监督聚类和分类。值得注意的是,发现自编码器的无监督预训练的稳定性可能是基于自编码器的多视图聚类方法的瓶颈。文章来源地址https://www.toymoban.com/news/detail-786359.html

到了这里,关于【论文阅读】深度多视图聚类的自监督判别特征学习的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 稀疏光流法跟中移动物体、监督学习聚类、K均值聚类、加载深度神经网络模型、深度神经网络模型的使用

    目录 1、稀疏光流法跟中移动物体 2、监督学习聚类 3、K均值聚类 4、加载深度神经网络模型 5、深度神经网络模型的使用          

    2024年02月16日
    浏览(37)
  • 【自监督论文阅读 2】MAE

    自监督论文阅读系列: 【自监督论文阅读 1】SimCLR 【自监督论文阅读 2】MAE 【自监督论文阅读 3】DINOv1 【自监督论文阅读 4】BYOL 论文地址:https://arxiv.org/pdf/2111.06377.pdf github代码地址:https://github.com/facebookresearch/mae 沐神B站视频讲解地址(看这个视频就够了):https://www.bilibili

    2024年02月10日
    浏览(53)
  • 【自监督论文阅读 1】SimCLR

    自监督论文阅读系列: 【自监督论文阅读 1】SimCLR 【自监督论文阅读 2】MAE 【自监督论文阅读 3】DINOv1 【自监督论文阅读 4】BYOL paper地址:https://arxiv.org/abs/2002.05709 github地址:https://github.com/google-research/simclr 这篇文章提出了一个对比学习的简单的框架,用来学习视觉的表征。

    2024年02月10日
    浏览(37)
  • 【自监督论文阅读 3】DINOv1

    自监督论文阅读系列: 【自监督论文阅读 1】SimCLR 【自监督论文阅读 2】MAE 【自监督论文阅读 3】DINOv1 【自监督论文阅读 4】BYOL 论文地址:https://arxiv.org/pdf/2104.14294.pdf github地址:https://github.com/facebookresearch/dino 论文题目:Emerging Properties in Self-Supervised Vision Transformers 在这篇文

    2024年02月10日
    浏览(39)
  • 【论文阅读】聚集多个启发式信号作为监督用于无监督作文自动评分

    本文提出一个新的无监督的AES方法ULRA,它不需要真实的作文分数标签进行训练; ULRA的核心思想是使用多个启发式的质量信号作为伪标准答案,然后通过学习这些质量信号的聚合来训练神经自动评分模型。 为了将这些不一致的质量信号聚合为一个统一的监督信号,我们将自动

    2024年02月16日
    浏览(27)
  • 超图聚类论文阅读1:Kumar算法

    《超图中模块化的新度量:有效聚类的理论见解和启示》 《A New Measure of Modularity in Hypergraphs: Theoretical Insights and Implications for Effective Clustering》 COMPLEX NETWORKS 2020, SCI 3区 具体实现源码见HyperNetX库 工作: 针对超图聚类问题 推广 了 模块度最大化 框架 引入了一个 超图空模型 ,

    2024年02月09日
    浏览(29)
  • 课题学习(九)----阅读《导向钻井工具姿态动态测量的自适应滤波方法》论文笔记

       引言直接从原论文复制,大概看一下论文的关键点: 垂直导向钻井工具在近钻头振动和工具旋转的钻井工作状态下,工具姿态参数的动态测量精度不高。为此,通过理论分析和数值仿真,提出了转速补偿的算法以消除工具旋转对测量的影响; 采用最小均方算法( Least Mea

    2024年02月07日
    浏览(56)
  • 【论文阅读】MCTformer: 弱监督语义分割的多类令牌转换器

    Multi-class Token Transformer for Weakly Supervised Semantic Segmentation 本文提出了一种新的基于变换的框架来学习类特定对象定位映射作为弱监督语义分割(WSSS)的伪标签    可以利用标准视觉转换器中一个类令牌的参与区域来形成与类无关的定位映射,我们研究了转换器模型是否也可以通

    2024年04月17日
    浏览(42)
  • 【阅读论文】USAD:多变量时间序列上的无监督异常检测

    USAD : UnSupervised Anomaly Detection on Multivariate Time Series IT系统的自动监控是Orange目前面临的挑战。考虑到其IT运营所达到的规模和复杂性,随着时间的推移,用于推断正常和异常行为的测量所需的传感器数量急剧增加,使得传统的基于专家的监督方法变得缓慢或容易出错。在本文中

    2024年02月12日
    浏览(38)
  • 超图聚类论文阅读2:Last-step算法

    《使用超图模块化的社区检测算法》 《Community Detection Algorithm Using Hypergraph Modularity》 COMPLEX NETWORKS 2021, SCI 3区 具体实现源码见HyperNetX库 工作:提出了一种用于超图的社区检测算法。该算法的主要特点是它可以根据一个社区中的顶点与其他社区中的顶点共享超边的频率进行调

    2024年02月09日
    浏览(27)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包