自然语言处理-词向量模型-Word2Vec

相关文章

• 

  2.自然语言处理NLP：词映射为向量——词嵌入（word embedding）

  1. 什么是词嵌入（word2vec） ： 把词映射为向量（实数域）的技术 2. 为什么不采用one-hot向量： one-hot词向量无法准确表达不同词之间的相似度，eg：余弦相似度，表示夹角之间的余弦值，无法表达不同词之间的相似度。 3. word2vec主要包含哪两个模型 跳字模型： 基于某个词生成

  2024年02月06日

  浏览(36)

• 自然语言处理从入门到应用——全局向量的词嵌入：GloVe（Global Vectors for Word Representation）词向量

  分类目录：《自然语言处理从入门到应用》总目录 无论是基于神经网络语言模型还是word2vec的词向量预训练方法，本质上都是利用文本中词与词在局部上下文中的共现信息作为自监督学习信号。除此之外，另一类常用于估计词向量的方法是基于矩阵分解的方法，例如潜在语义

  2024年02月09日

  浏览(32)
• 

  自然语言处理从入门到应用——动态词向量预训练：双向语言模型

  分类目录：《自然语言处理从入门到应用》总目录 对于给定的一段输入文本 w 1 w 2 ⋯ w n w_1w_2cdots w_n w 1 ​ w 2 ​ ⋯ w n ​ ，双向语言模型从前向（从左到右）和后向（从右到左）两个方向同时建立语言模型。这样做的好处在于，对于文本中任一时刻的词 w t w_t w t ​ ，可以

  2024年02月10日

  浏览(33)
• 

  【自然语言处理】理解词向量、CBOW与Skip-Gram模型

  由于计算机不能直接对各种字符进行运算，为此需要将词的表示进行一些转换。因此，在自然语言处理中，通常需要对输入的语料进行一些预处理： 其中，如何对词汇进行表示是很关键的问题，糟糕的表示方法容易导致所谓的 “Garbage in, garbage out”。 对词汇的表示，常见的

  2024年02月08日

  浏览(34)
• 

  自然语言处理从入门到应用——静态词向量预训练模型：神经网络语言模型（Neural Network Language Model）

  分类目录：《自然语言处理从入门到应用》总目录 《自然语言处理从入门到应用——自然语言处理的语言模型（Language Model，LM）》中介绍了语言模型的基本概念，以及经典的基于离散符号表示的N元语言模型（N-gram Language Model）。从语言模型的角度来看，N元语言模型存在明显

  2024年02月09日

  浏览(35)

• 自然语言处理-词向量技术

  词向量（Word Embedding）是一种将单词表示为实数向量的技术，它在自然语言处理（NLP）和机器学习中得到广泛应用。词向量的目标是捕捉单词之间的语义关系，使得语义相似的单词在向量空间中距离较近。 文本表示在自然语言处理过程中，是一项极为重要的技术，文本表示的

  2024年01月22日

  浏览(31)
• 

  自然语言处理 Paddle NLP - 词向量应用展示

  基础 自然语言处理（NLP） 自然语言处理PaddleNLP-词向量应用展示 自然语言处理（NLP）-前预训练时代的自监督学习 自然语言处理PaddleNLP-预训练语言模型及应用 自然语言处理PaddleNLP-文本语义相似度计算（ERNIE-Gram） 自然语言处理PaddleNLP-词法分析技术及其应用 自然语言处理Pa

  2024年02月08日

  浏览(46)
• 

  自然语言处理从入门到应用——动态词向量预训练：ELMo词向量

  分类目录：《自然语言处理从入门到应用》总目录 在双向语言模型预训练完成后，模型的编码部分（包括输入表示层以及多层堆叠LSTM）便可以用来计算任意文本的动态词向量表示。最自然的做法是使用两个LSTM的最后一层隐含层输出作为词的动态向量表示。然而，在ELMo模型中

  2024年02月09日

  浏览(40)
• 

  自然语言处理(四)：全局向量的词嵌入（GloVe）

  全局向量的词嵌入（Global Vectors for Word Representation），通常简称为GloVe，是一种用于将词语映射到连续向量空间的词嵌入方法。它旨在捕捉词语之间的语义关系和语法关系，以便在自然语言处理任务中能够更好地表示词语的语义信息。 GloVe的设计基于两个观察结果：共现矩阵（

  2024年02月11日

  浏览(35)

• 自然语言处理从入门到应用——LangChain：索引（Indexes）-[向量存储器（Vectorstores）]

  分类目录：《大模型从入门到应用》总目录 LangChain系列文章： 基础知识 快速入门 安装与环境配置 链（Chains）、代理（Agent:）和记忆（Memory） 快速开发聊天模型 模型（Models） 基础知识 大型语言模型（LLMs） 基础知识 LLM的异步API、自定义LLM包装器、虚假LLM和人类输入LLM（

  2024年02月12日

  浏览(31)