迁移学习（CLDA）《CLDA: Contrastive Learning for Semi-Supervised Domain Adaptation》-Toy模板网

这篇具有很好参考价值的文章主要介绍了迁移学习（CLDA）《CLDA: Contrastive Learning for Semi-Supervised Domain Adaptation》。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

Note：[ wechat：Y466551 | 可加勿骚扰，付费咨询 ]

论文信息

论文标题：CLDA: Contrastive Learning for Semi-Supervised Domain Adaptation
论文作者：Ankit Singh
论文来源：NeurIPS 2021
论文地址：download
论文代码：download
视屏讲解：click

1 简介

　　动机：半监督导致来自标记源和目标样本的监督只能确保部分跨域特征对齐，导致目标域的对齐和未对齐子分布形成域内差异；

　　贡献：

- 提出基于质心的对比学习框架；　　
- 提出基于类级的实例对比学习框架；

2 方法

2.1 整体框架

　　迁移学习（CLDA）《CLDA: Contrastive Learning for Semi-Supervised Domain Adaptation》

2.2 源域监督训练

　　源域、目标域监督损失：

　　　　$\mathcal{L}_{\text {sup }}=-\sum_{k=1}^{K}\left(y^{i}\right)_{k} \log \left(\mathcal { F } \left(\mathcal{G}\left(\left(x_{l}^{i}\right)\right)_{k}\right.\right.$

2.3 域间对比对齐

　　基于 $\text{mini-batch}$ 的源域质心（类级）：

　　　　$C_{k}^{s}=\frac{\sum_{i=1}^{i=B} \mathbb{1}_{\left\{y_{i}^{s}=k\right\}} \mathcal{F}\left(\mathcal{G}\left(x_{i}^{s}\right)\right)}{\sum_{i=1}^{i=B} \mathbb{1}_{\left\{y_{i}^{s}=k\right\}}}$

　　动量更新源域质心：

　　　　$C_{k}^{s}=\rho\left(C_{k}^{s}\right)_{s t e p}+(1-\rho)\left(C_{k}^{s}\right)_{s t e p-1}$

　　无标签目标域样本的伪标签：

　　　　$\hat{y_{i}^{t}}=\operatorname{argmax}\left(\left(\mathcal{F}\left(\mathcal{G}\left(x_{i}^{t}\right)\right)\right)\right.$

　　域间对比对齐（类级）：

　　　　$\mathcal{L}_{c l u}\left(C_{i}^{t}, C_{i}^{s}\right)=-\log \frac{h\left(C_{i}^{t}, C_{i}^{s}\right)}{h\left(C_{i}^{t}, C_{i}^{s}\right)+\sum_{\substack{r=1 \\ q \in\{s, t\}}}^{K} \mathbb{1}_{\{r \neq i\}} h\left(C_{i}^{t}, C_{r}^{q}\right)}$

　　其中：

　　　　$h(\mathbf{u}, \mathbf{v})=\exp \left(\frac{\mathbf{u}^{\top} \mathbf{v}}{\|\mathbf{u}\|_{2}\|\mathbf{v}\|_{2}} / \tau\right)$

2.4 实例对比对齐

　　目的：使用实例对比学习在目标域中形成稳定和正确的集群质心，在实例对比对齐中，对输入和强增强的未标记图像的一致预测迫使未对齐的目标子分布从低密度区域向对齐的分布移动，确保了在未标记的目标分布中更好的聚类，在使用实例对比对齐和域间对比对齐后，通过如 Table 5 验证了这一点。

　　强数据增强：

　　　　$\tilde{x}_{i}^{t}=\psi\left(x_{i}^{t}\right)$

　　实例对比损失：

　　　　$\mathcal{L}_{i n s}\left(\tilde{x}_{i}^{t}, x_{i}^{t}\right)=-\log \frac{h\left(\mathcal{F}\left(\mathcal{G}\left(\tilde{x}_{i}^{t}\right), \mathcal{F}\left(\mathcal{G}\left(x_{i}^{t}\right)\right)\right)\right.}{\sum_{r=1}^{B} h\left(\mathcal{F}\left(\mathcal{G}\left(\tilde{x}_{i}^{t}\right)\right), \mathcal{F}\left(\mathcal{G}\left(x_{r}^{t}\right)\right)\right)+\sum_{r=1}^{B} \mathbb{1}_{\{r \neq i\}} h\left(\mathcal{F}\left(\mathcal{G}\left(\tilde{x}_{i}^{t}\right)\right), \mathcal{F}\left(\mathcal{G}\left(\tilde{x}_{r}^{t}\right)\right)\right)}$

2.5 训练目标

　　　　$\mathcal{L}_{\text {tot }}=\mathcal{L}_{\text {sup }}+\alpha * \mathcal{L}_{\text {clu }}+\beta * \mathcal{L}_{\text {ins }}$

3 总结

　　略文章来源地址https://www.toymoban.com/news/detail-415799.html

到了这里，关于迁移学习（CLDA）《CLDA: Contrastive Learning for Semi-Supervised Domain Adaptation》的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！