机器学习：自动编码器Auto-encoder

7月前作者：uncle_ll 分类：Toy博客阅读(38) 违法举报

这篇具有很好参考价值的文章主要介绍了机器学习：自动编码器Auto-encoder。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

Self-supervised Learning Framework

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器
不用标注数据就能学习的任务，比如Bert之类的。但最早的方法是Auto-encoder。

Outline

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

Auto-encoder

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

encoder输出的向量，被decoder还原的图片，让输出的图片与输入的图片越接近越好。

将原始的高维向量变成低维向量，将该新的特征用于下游任务。
机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器
相关的类似方法：

PCA： youtu.be/iwh5o_M4BNU
t-SNE： youtu.be/GBUEjkpoxXc

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

图片的变化是有限的：

3x3的图，可能只需要用两个维度表示就行

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

auto-encoder 不是一个新的想法， 2006年提出。

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

Bert也是一个加噪声的auto-encoder

Feature Disentanglement

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器
Disentanglement 把纠缠的特征解开。

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

embedding的哪些维度代表了哪些信息。比如前50维表示内容信息，后50维表示说话人的信息。

应用变身器。

在过去需要读相同的句子才能进行转换，现在只需要给声音就行，不需要同样的内容就可以进行声音转换。

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器
不同语种都可以，只是分拆内容和说话人特征然后再混合decoder输出

Discrete Represention

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

binary的好处，每一个维度表示这个地方特征是否存在，便于解释embedding。
机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器
如果是one-hot的话，可以做到无监督分类。

codebook一排向量，然后用中间算出的embedding与这一排向量算相似度，谁的相似度最大就把那个向量拿出来，然后丢到decoder中。

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

文字中的embedding用字符串表示，是不是就是摘要那？模型是seq2seq。
这样生成的中间内容不懂，是暗号类的那种文章，此时借鉴于GAN的思想，加一个鉴别器：
机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器
用RL硬训练，有点像cycleGAN

更多应用

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

生成

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

压缩

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

异常检测

机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器

cancer细胞检测，就一类，可以使用auto-encoder算法。

使用真实人脸训练encoder-decoder，得到正常的输出
然后用假脸送进去预测，得到的重构的图比较差，说明这种人脸是模型训练没有看过的。
机器学习：自动编码器Auto-encoder,机器学习,机器学习,自动编码器
更多异常检测的介绍资料：
文章来源地址https://www.toymoban.com/news/detail-619983.html

到了这里，关于机器学习：自动编码器Auto-encoder的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

【深度学习】采用自动编码器生成新图像

你知道什么会很酷吗？如果我们不需要所有这些标记的数据来训练我们的模型。我的意思是标记和分类数据需要太多的工作。不幸的是，大多数现有模型从支持向量机到卷积神经网，没有它们，卷积神经网络就无法训练。无监督学习不需要标注。无监督学习从未

2024年02月13日
浏览(33)
机器学习&&深度学习——BERT（来自transformer的双向编码器表示）

👨‍🎓作者简介：一位即将上大四，正专攻机器学习的保研er 🌌上期文章：机器学习深度学习——transformer（机器翻译的再实现） 📚订阅专栏：机器学习深度学习希望文章对你们有所帮助我们首先理解一下相关的一些概念，首先我们知道在自然语言系统中，词是意义的基

2024年02月12日
浏览(37)
【深度学习】在 MNIST实现自动编码器实践教程

自动编码器是一种无监督学习的神经网络模型，主要用于降维或特征提取。常见的自动编码器包括基本的单层自动编码器、深度自动编码器、卷积自动编码器和变分自动编码器等。其中，基本的单层自动编码器由一个编码器和一个解码器组成，编码器

2024年02月14日
浏览(38)
AE（自动编码器）与VAE（变分自动编码器）的区别和联系？

他们各自的概念看以下链接就可以了：https://blog.csdn.net/weixin_43135178/category_11543123.html 这里主要谈一下他们的区别？ VAE是AE的升级版，VAE也可以被看作是一种特殊的AE AE主要用于数据的压缩与还原，VAE主要用于生成。 AE是将数据映直接映射为数值 code（确定的数值），而

2024年02月03日
浏览(38)
LabVIEW编码器自动校准系统

简介在工作中，精确的角度测量和校准对于保持设备精度至关重要。开发了一套自动化角度编码器校准系统，利用了LabVIEW的强大功能。该系统以全圆连续角度标准装置为基础，配合二维导轨装夹系统，实现了空心轴角度编码器的高效自动校准， 01 系统功能

2024年01月17日
浏览(35)
使用自动编码器进行半监督异常检测

由于本人水平有限，难免出现错漏，敬请批评改正。更多精彩内容，可点击进入YOLO系列专栏、自然语言处理专栏或我的个人主页查看基于DETR的人脸伪装检测 YOLOv7训练自己的数据集（口罩检测） YOLOv8训练自己的数据集（足球检测） YOLOv5：TensorRT加速YOLOv5模型推理 YOLOv5：I

2024年02月06日
浏览(37)
【图像处理】使用自动编码器进行图像降噪（改进版）

阿里雷扎·凯沙瓦尔兹

2024年02月15日
浏览(47)
【深度学习】编码器专题（02）

前文见：【深度学习】编码器专题（01）在上面的示例中， src_mask 设置为 “无”。如第三篇文章所述，可选的掩码可以通过多头注意力层传递。对于编码器，此掩码通常是根据序列的填充创建的。本文中使用的三个序列的长度均为 6。但是，不同长度的序列更

2024年02月16日
浏览(33)
自动编码器的数学基础：概率论与线性代数

自动编码器(Autoencoders)是一种深度学习模型，它通过学习压缩输入数据的低维表示，然后再将其重新解码为原始数据形式。自动编码器的主要目的是学习数据的特征表示，从而可以用于降维、生成新数据、数据压缩等应用。在这篇文章中，我们将讨论自动编码器的数学基础，

2024年02月20日
浏览(39)
深度学习——自编码器AutoEncoder

自编码器（Autoencoder）是一种无监督学习的神经网络模型，用于学习数据的低维表示。它由编码器（Encoder）和解码器（Decoder）两部分组成，通过将输入数据压缩到低维编码空间，再从编码空间中重构输入数据。自编码器的基本结构如下： 1.编码器（Encoder）：接收输入数据，

2024年02月17日
浏览(35)