few-shot基本概念

10月前作者：看不见我呀分类：Toy博客阅读(213) 违法举报

这篇具有很好参考价值的文章主要介绍了few-shot基本概念。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

Few-shot learning

https://www.youtube.com/watch?v=UkQ2FVpDxHg&list=PLvOO0btloRnuGl5OJM37a8c6auebn-rH2&index=1&t=3s

1.问题的引出

通过很少的样本来进行分类/回归

few-shot基本概念

few-shot基本概念

给你四张图像，人类大概可以知道，查询图像是什么。

同样，机器也需要知道。

Support set：很少的数据集，例如每类图像有2张。这么少的样本不足以训练一个模型。

few-shot基本概念

传统的监督学习：让机器学习训练集，然后泛化到测试集。

Few-shot learning：让机器自己学会学习。

在一个大的数据集中，few-shot learning不是让nn知道什么是大象/老虎，让后去识别没见过的大象/老虎。学习的目的是理解事物之间的不同，学会区分不同事物。给两张图像，不让学会是什么，而是学会是否相同。

训练完模型之后，可以问模型，如下问题：

few-shot基本概念

在来看大数据集，根本没有松鼠。模型不认识松鼠，但是模型知道事物之间的异同，可以告诉你，他们相同。

few-shot基本概念

few-shot基本概念

换种说法：

给你一张query图像，问nn，这是什么东西？训练的时候没有见过这种东西呀

在多给一个support set，包含6张图像，告诉她分别是狐狸，。。。。。

few-shot基本概念

NN拿query，依次与support对比，发现和水獭最相似。因此，query应该是水獭。

Support set：带标签的术语。规模很小，每一类有一张/几张图象。在做预测的时候，提取额外的信息。

Traning set：规模很大，每一类有很多张图像。

核心：用足够大的模型，来训练一个大模型，如深度神经网络。训练的目的，不是让模型学会大象/老虎等。而是让模型学会事物的异同，然后根据support set，就可以知道quey是什么，尽管训练集中没有水獭类别。

2. few-shot learning & meta learning

few-shot基本概念

传统监督学习：模型学习训练集，然后泛化到测试集。

Meta learning：学会学习。

few-shot基本概念

few-shot基本概念

靠一张卡片学会水獭，为 one-shot learning。

few-shot基本概念

模型没有见过这张哈士奇，但是训练集里有上百张哈士奇，模型由一定的泛化能力。

few-shot基本概念

模型不仅没有见过这张兔子，而是没有见过兔子这个类别的所有图像。

因此需要给模型看小卡片。

few-shot基本概念

few-shot基本概念

6-way 1-shot

few-shot基本概念

few-shot基本概念

随着类别增加，分类准确率降低。

few-shot基本概念

3选1，明显比6选1，准确呀。

few-shot基本概念

参考样本越多，预测越容易。

few-shot基本概念

3. 解决few-shot learning的问题

few-shot基本概念

基本想法：学习一个函数，来学习相似度。

few-shot基本概念

few-shot基本概念

few-shot基本概念

few-shot基本概念

4. 数据集

如果做meta learning，需要用标准的数据集，来评价算法的好坏。

few-shot基本概念

手写数字属于据。

1600类，每类由20张图像

few-shot基本概念

few-shot基本概念

few-shot基本概念文章来源地址https://www.toymoban.com/news/detail-458648.html

到了这里，关于few-shot基本概念的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

深入理解深度学习——GPT（Generative Pre-Trained Transformer）：GPT-3与Few-shot Learning

分类目录：《深入理解深度学习》总目录相关文章： · GPT（Generative Pre-Trained Transformer）：基础知识 · GPT（Generative Pre-Trained Transformer）：在不同任务中使用GPT · GPT（Generative Pre-Trained Transformer）：GPT-2与Zero-shot Learning · GPT（Generative Pre-Trained Transformer）：GPT-3与Few-shot Learning

2024年02月10日
浏览(46)
论文阅读 - Few-shot Network Anomaly Detection via Cross-network Meta-learning

论文链接：https://arxiv.org/pdf/2102.11165.pdf 目录摘要：引言问题定义方法 Graph Deviation Networks Cross-network Meta-learning 网络异常检测旨在找到与绝大多数行为显着不同的网络元素（例如节点、边、子图）。它对从金融、医疗保健到社交网络分析等各种应用产生了深远

2024年02月14日
浏览(52)
few-shot / one shot / zero shot object counting论文汇总

code: https://paperswithcode.com/paper/class-agnostic-counting 摘要：几乎所有现有的计数方法都是为一个特定的对象类而设计的。然而，我们的工作旨在创建一个能够计数任何类对象的计数模型。为了实现这一目标，我们将计数表述为一个匹配问题，使我们能够利用对象计数问题中自然存

2024年02月09日
浏览(47)
【论文阅读】 Few-shot object detection via Feature Reweighting

Few-shot object detection的开山之作之一 ~~ 属于Metric-based Methods 特征学习器使用来自具有足够样本的基本类的训练数据来提取可推广以检测新对象类的meta features。The reweighting module将新类别中的一些support examples转换为全局向量，该全局向量indicates meta features对于检测相应物体的重

2023年04月09日
浏览(42)
【论文阅读】Language Models are Few-Shot Learners(GPT-3)

本文简要介绍了GPT-3的背景，模型架构，训练数据以及训练方式部分。具体训练细节，实验结果很多，可以在用到的时候再看本文剖析了pretrain-finetune架构存在的问题：对于每个新的任务，都需要大量的标注数据将表达能力更强的模型（预训练阶段要求用大模型）在比较窄的

2024年02月14日
浏览(54)
【计算机视觉】Zero-shot, One-shot和Few-shot的理解

机器学习任务按照对样本量的需求可以分为：传统监督式学习、Few-shot Learning、One-shot Learning、Zero-shot Learning。传统learning，炼丹模式。传统深度学习的学习速度慢，往往需要学习海量数据和反复训练后才能使网络模型具备不错的泛化能力，传统learning可以总结为：海量数据

2024年02月04日
浏览(53)
(GPT3)Language Models are Few-Shot Learners论文阅读

论文地址：https://arxiv.org/pdf/2005.14165v4.pdf 最近的工作表明，通过对大量文本语料库进行预训练，然后对特定任务进行微调，许多 NLP 任务和基准测试取得了实质性进展。虽然在体系结构中通常与任务无关，但此方法仍然需要特定于任务的微调数据集，其中包含数

2024年02月08日
浏览(66)
杂记 | Langchain中few-shot提示词模板的使用（给提示词添加示例）

Langchain是一个集成多个大语言模型的开源框架，可以使用它来快速开发大语言模型应用。本文的代码使用到的模块：先来看看普通的提示词模板如何使用，效果如何：在这个示例中，对大模型的输入为：大模型的输出为：可以看到输出并不能很好地满足我们的需求，因为

2024年02月07日
浏览(37)
Prompt learning 教学[进阶篇]：简介Prompt框架并给出自然语言处理技术：Few-Shot Prompting、Self-Consistency等；项目实战搭建知识库内容机器人

看完基础篇的各种场景介绍后，你应该对 Prompt 有较深的理解。之前的章节我们讲的都是所谓的「术」，更多地集中讲如何用，但讲「道」的部分不多。高级篇除了会讲更高级的运用外，还会讲更多「道」的部分。高级篇的开篇，我们来讲一下构成 prompt 的框架。查阅了非常

2024年02月04日
浏览(52)
论文笔记|CVPR2023:Semantic Prompt for Few-Shot Image Recognition

论文地址：https://arxiv.org/pdf/2303.14123.pdf 这是一篇2023年发表在CVPR上的论文，论文题目是Semantic Prompt for Few-Shot Image Recognitio，即用于小样本图像识别的语义提示。第一，最近几项研究利用语义信息来进行小样本学习的研究。一方面因为通过少量样本去识别新类别很难，就想使

2024年02月04日
浏览(56)