深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）

9月前作者：slience_me 分类：Toy博客阅读(43) 违法举报

这篇具有很好参考价值的文章主要介绍了深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

深度生成模型之GAN优化目标设计与改进

原始GAN优化目标的问题

1. JS散度度量问题

不合适的度量准则

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

2. 梯度问题

梯度消失与不稳定

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

优化目标的设计与改进

1. 最小二乘损失GAN

Least Squares GAN，惩罚生成器生成的远离决策面的样本，即可将样本拉近决策面，从而可避免梯度消失问题

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

2. Energy-based GAN(EBGAN)

使用自编码器学习样本重建，生成器作为自编码器的正则项，更自由的目标函数，更稳定的训练

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

3. Wasserstein GAN

使用Earth-Mover距离(EM距离，推土机距离)作为优化目标，为在最优路径规划下的最小消耗

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

Wasserstein距离等价形式

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

Wasserstein梯度与优化目标

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

4. WGAN-GP

对Wasserstein GAN添加梯度惩罚

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

5. Boundary Equilibrium GAN(BEGAN)

对判别器和生成器的能力进行均衡

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

6. Loss Sensitive GAN

判别器被称为损失函数L_θ(x),他对来自训练数据集中的样本x应该有较小的损失数值，对来自生成器G的样本G_Φ(z)应该有比较大的损失数值

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

当生成样本与真实样本距离不够远，产生有效损失；超过一定距离，损失为常数。

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记

7. Relativeistic GAN

Relativistic判别器， “给定的真实数据”比“随机抽样的假数据”更高的概率

深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）,机器学习,生成对抗网络,学习,笔记文章来源地址https://www.toymoban.com/news/detail-774255.html

到了这里，关于深度生成模型之GAN优化目标设计与改进 -＞（个人学习记录笔记）的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

GAN的训练技巧：炼丹师养成计划 ——生成式对抗网络训练、调参和改进

生成对抗网络（GAN:Generative adversarial networks）是深度学习领域的一个重要生成模型，即两个网络（生成器和鉴别器）在同一时间训练并且在极小化极大算法（minimax）中进行竞争。这种对抗方式避免了一些传统生成模型在实际应用中的一些困难，巧妙地通过对抗学习来近似一些

2023年04月08日
浏览(37)
【机器学习合集】模型设计之网络宽度和深度设计 -＞（个人学习记录笔记）

在深度学习中，网络的宽度和深度是两个重要的超参数，它们对模型的性能和训练过程有重要影响。以下是有关网络宽度和深度的设计考虑：网络宽度：网络宽度指的是每个层中的神经元数量。增加宽度可以增加模型的表示能力，有助于学习更复杂的模式。但要注意，增

2024年02月08日
浏览(31)
旋转目标检测【1】如何设计深度学习模型

平常的目标检测是平行的矩形框，“ 方方正正 ”的；但对于一些特殊场景（遥感），需要倾斜的框，才能更好贴近物体，旋转目标检测来啦~ 常见的水平框参数表达方式为（x,y,w,h），四个参数分别表示水平框中心的横纵坐标、宽度以及高度。常用的YOLOv5也是用这边表示方

2024年02月06日
浏览(47)
深度学习生成对抗网络（GAN）

生成对抗网络(Generative Adversarial Networks)是一种无监督深度学习模型，用来通过计算机生成数据，由Ian J. Goodfellow等人于2014年提出。模型通过框架中(至少)两个模块：生成模型(Generative Model)和判别模型(Discriminative Model)的互相博弈学习产生相当好的输出。生成对抗网络被认为是当

2024年02月07日
浏览(57)
深度学习基础——GAN生成对抗网络

生成对抗网络GAN(Generative adversarial networks)是Goodfellow等在2014年提出的一种生成式模型。GAN在结构上受博弈论中的二元零和博弈(即二元的利益之和为零，一方的所得正是另一方的所失)的启发，系统由一个生成器和一个判别器构成。生成器和判别器均可以

2024年02月22日
浏览(62)
深度学习（4）---生成式对抗网络(GAN)

1. 生成式对抗网络（Generative Adversarial Network，GAN）是一种深度学习模型，是近年来复杂分布上无监督学习最具前景的方法之一。它启发自博弈论中的二人零和博弈（two-player game），两位博弈方分别由生成模型（generative model）和判别模型（discriminative model）充当。 2. 判别模

2024年02月08日
浏览(55)
【人工智能与深度学习】生成对抗网络（GAN）

2024年02月01日
浏览(46)
【Pytorch深度学习实战】（10）生成对抗网络（GAN）

🔎大家好，我是Sonhhxg_柒，希望你看完之后，能对你有所帮助，不足请指正！共同学习交流🔎 📝个人主页－Sonhhxg_柒的博客_CSDN博客 📃 🎁欢迎各位→点赞👍 + 收藏⭐️ + 留言📝 📣系列专栏 - 机器学习【ML】自然语言处理【NLP】深度学习【DL】 🖍foreword ✔说

2023年04月08日
浏览(52)
生成模型 -- GAN

生成模型与判别模型我们前面几章主要介绍了机器学习中的判别式模型，这种模型的形式主要是根据原始图像推测图像具备的一些性质，例如根据数字图像推测数字的名称，根据自然场景图像推测物体的边界；而生成模型恰恰相反，通常给出的输入是图像具备的性质，而输

2024年02月11日
浏览(40)
基于GAN的图像生成模型

这是pytorch官网的示例，记录训练GAN生成牙刷的过程，最终生成器生成牙刷的图像已经可以比较好了。对GAN网络的训练是一个比较玄学的过程，当不收敛的时候调整学习率多尝试几次，或者动态的调整学习率。生成器在不同阶段生成的效果从上面的结果来看，对于生成牙刷这

2023年04月09日
浏览(45)