tf.keras.layers.Embedding() 详解

这篇具有很好参考价值的文章主要介绍了tf.keras.layers.Embedding() 详解。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

Embedding layery

参数如下: 

tf.keras.layers.Embedding(
    input_dim,
    output_dim,
    embeddings_initializer="uniform",
    embeddings_regularizer=None,
    activity_regularizer=None,
    embeddings_constraint=None,
    mask_zero=False,
    input_length=None,
    **kwargs
)

输入:二维张量:(batch_size, input_length)

输出: 3D 张量:(batch_size, input_length, output_dim)

参数详解:

  • input_dim:整数(>= 0),词汇表中最大值+1
  • output_dim:的整数(> 0),嵌入向量的维度
  • embeddings_initializer: 嵌入矩阵的初始化方法,为预定义初始化方法名的字符串,或用于初始化权重的初始化器。
  • embeddings_regularizer: 嵌入矩阵的正则项,为Regularizer对
  • embeddings_constraint: 嵌入矩阵的约束项,为Constraints对象
  • mask_zero:布尔值,确定是否将输入中的‘0’看作是应该被忽略的‘填充’(padding)值,该参数在使用递归层处理变长输入时有用。设置为True的话,模型中后续的层必须都支持masking,否则会抛出异常。如果该值为True,则下标0在字典中不可用,input_dim应设置为|vocabulary| + 1
  • input_length:当输入序列的长度固定时,该值为其长度。如果要在该层后接Flatten层,然后接Dense层,则必须指定该参数,否则Dense层的输出维度无法自动推断。

input_dim为什么要词汇表中最大值+1

创建层时,它将随机初始化嵌入矩阵(形状为(input_dimoutput_dim)),然后将词汇表中的数字当作索引,返回相应的行。否则会越界报错。

 想进一步了解Embedding请看:机器学习实战(第二版)读书笔记(5)—Embedding 文章来源地址https://www.toymoban.com/news/detail-421241.html

到了这里,关于tf.keras.layers.Embedding() 详解的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • TF-VAEGAN:添加潜在嵌入(Latent Embedding)的VAEGAN处理零样本学习

    TF-VAEGAN是在VAEGAN架构基础上引入潜在嵌入解码器,并通过反馈模块和判别特征转换来增强特征合成与零样本分类能力的模型。该模型利用语义嵌入重建实现循环一致约束,生成判别性特征,减少类间歧义,从而改善零样本学习的效果。

    2024年02月03日
    浏览(22)
  • 【Unity】层(Layer)详解

    我们在做游戏开发的时候,尤其是场景比较复杂的时候,我们就需要使用Layer来分类。 比如: 排除不被灯光照亮的Layer 射线检测特定的 Layer 摄像机只能看到某些 Layer 对象之间的碰撞检测 Layer … ①在Inspector面板中点击 Layer / Add Layer ②在编辑器菜单中,选择Edit / Project Settin

    2024年04月15日
    浏览(43)
  • TF060N03M规格书|TF060N03M 参数说明|用于Type-C转HDMI拓展坞转换器N-MOS

    TF060N03M规格书|TF060N03M 参数说明|用于Type-C转HDMI拓展坞转换器N-MOS TF060N03M是一款专门用于USB TYPEC转换器的MOS。TF060N03M采用先进的沟槽技术,提供出色的RDS(ON)、低栅极电荷和低至2.5V的栅极电压。该装置适用于电池保护或其他开关应用。 TF060N03M产品形态: TF060N03M特征 先进的器

    2023年04月08日
    浏览(29)
  • layer.open属性详解及layer.open弹出框使用post方法

    一、常用属性详解: 例子: 二:layer.open GET方式说明 如下段代码所示,是最常见的layer.open使用方式。这里有几点需要说明: type 基本层类型,layer提供了5种层类型。可传入的值有:0(信息框,默认)、1(页面层)、2(iframe层)、3(加载层)、4(tips层)。 layer.open其底层

    2024年02月16日
    浏览(36)
  • 详解分层架构 Layered Architecture

    作者:禅与计算机程序设计艺术 Layered Architecture(层次化架构)是一种软件设计方法,将系统分成多个层次或抽象级别,每个层都由一组相互协作的模块和服务构成。各层之间通过接口协议进行通信,并可通过向上层提供的服务或功能接口集调用下层的服务或功能。这种结构

    2024年02月08日
    浏览(31)
  • PyTorch 稀疏函数解析:embedding 、one_hot详解

    目录 PyTorch子模块Sparse functions详解 embedding 参数 输出形状 示例 带有 padding_idx 的示例 embedding_bag 参数 输出形状 示例 使用 padding_idx 的示例 one_hot 参数 返回 示例 总结 torch.nn.functional.embedding 是 PyTorch 中的一个函数,用于从固定字典和大小的简单查找表中检索嵌入(embeddings)。这

    2024年01月18日
    浏览(36)
  • AI 绘画Stable Diffusion 研究(十五)SD Embedding详解

    大家好,我是风雨无阻。 本期内容: Embedding是什么? Embedding有什么作用? Embedding如何下载安装? 如何使用Embedding? 大家还记得 AI 绘画Stable Diffusion 研究(七) 一文读懂 Stable Diffusion 工作原理 这篇文章中,曾提到过词嵌入(Embedding)吗? 我们来简单回顾一下:Embedding 将输

    2024年02月11日
    浏览(30)
  • 【ViT 微调时关于position embedding如何插值(interpolate)的详解】

    本文适合对Vision Transformer有一定了解(知道内部结构和一些实现细节,最好是精读过ViT这篇论文)的读者阅读,这篇博客不会详细说明ViT的结构和前向推断过程。 符号 含义 b b b batch size N N N patch size H H H W W W 低分辨率图像的高和宽 H ′ H\\\' H ′ W ′ W\\\' W ′ 高分辨率图像的高和

    2024年02月05日
    浏览(24)
  • SSL(Secure Sockets Layer)安全套接层协议详解

    SSL(Secure Sockets Layer 安全套接层)协议 ,及其继任者 TLS(Transport Layer Security传输层安全)协议 ,是为网络通信提供安全及数据完整性的一种安全协议。TLS与SSL在传输层对网络连接进行加密,用于保障网络数据传输安全,利用数据加密技术,确保数据在网络传输过程中不会被截取

    2023年04月09日
    浏览(28)
  • 详解Layer 2扩展解决方案Optimism(OP)是如何工作的?|Tokenview

    Optimism是一个快速、稳定、可扩展和低成本的以太坊Layer 2区块链。这意味着它在以太坊区块链(Layer1)之上运行,以帮助缓解拥塞,进而降低交易成本和处理时间。作为现有以太坊软件的最小扩展,Optimism的EVM-equivalent 架构可以扩展以太坊应用程序。如果它能在以太坊上工作

    2024年02月06日
    浏览(30)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包