词频的统计

这篇具有很好参考价值的文章主要介绍了词频的统计。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

任务8、词频统计
-参看本博《经典案例【词频统计】十一种实现方式》
-针对单词文本文件,统计每个单词出现的次数
hello hadoop hello spark
i love you hadoop and spark
i learn hadoop and scala

-思路:读取文件,通过拆分得到单词数组,定义一个哈希映射保存词频统计结果,遍历单词数组,如果第一次遇到某个单词,就在哈希映射里添加一个元素,单词为键,1为值;如果不是第一次遇到,那么在哈希映射里找到该键,将其值加1……

(一)编程实现
-在项目根目录里创建单词文本文件 - words.txt

词频的统计
-在net.guoxin.p03里创建t08子包,在子包里创建WordCount类

词频的统计
-读取文件所有行

词频的统计

-将文件行按空格拆分成单词数组

词频的统计

-针对每行单词数组进行词频统计

词频的统计
-按指定格式输出词频统计结果

词频的统计
-利用Python的绘图库来绘制词频统计的直方图

词频的统计
-查看完整代码

package net.guoxin.p03.t08;

import java.io.BufferedReader;
import java.io.FileReader;
import java.util.HashMap;
import java.util.Map;

/**

  • 功能:词频统计
  • 作者:郭鑫
  • 日期:2022年06月02日
    */
    public class WordCount {
    public static void main(String[] args) throws Exception {
    // 定义缓冲字符输入流
    BufferedReader br = new BufferedReader(new FileReader(“words.txt”));
    // 定义词频统计哈希映射
    Map<String, Integer> wc = new HashMap<>();
    // 定义行字符串变量
    String nextLine = “”;
    // 读取文件,遍历所有行
    while ((nextLine = br.readLine()) != null) {
    // 按空格拆分,得到单词数组
    String[] words = nextLine.split(" “);
    // 遍历单词数组,进行单词计数
    for (String word: words) {
    wc.put(word, wc.containsKey(word)? wc.get(word) + 1 : 1);
    }
    }
    // 按照指定格式输出词频统计结果
    for (String key : wc.keySet()) {
    System.out.println(”(" + key + “,” + wc.get(key) + “)”);
    }
    }
    }

思考题:将词频统计结果按次数降序排列
(二)知识点讲解
1、哈希映射

-put(key, value) - 添加元素(键值对)
-get(key) - 按键取值
-containsKey(key) - 是否包含某个键
-keySet() - 键集合
-values() - 值集合

2、哈希集合
-add(e) - 添加元素
-remove(e) - 移除元素
-size() - 集合元素个数
-isEmpty() - 是否为空集

(三)拓展练习
任务1、网址去重

-去掉重复ip地址,生成distinct_ips.txt文章来源地址https://www.toymoban.com/news/detail-484661.html

到了这里,关于词频的统计的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • MapReduce词频统计(一)

    1.词频统计任务要求 首先,在Linux系统本地创建两个文件,即文件wordfile1.txt和wordfile2.txt。在实际应用中,这两个文件可能会非常大,会被分布存储到多个节点上。但是,为了简化任务,这里的两个文件只包含几行简单的内容。需要说明的是,针对这两个小数据集样本编写的

    2024年02月04日
    浏览(29)
  • Hadoop 实战 | 词频统计WordCount

    通过分析大量文本数据中的词频,可以识别常见词汇和短语,从而抽取文本的关键信息和概要,有助于识别文本中频繁出现的,这对于理解文本内容和主题非常关键。同时,通过分析词在文本中的相对频率,可以帮助理解词在不同上下文中的含义和语境。 \\\"纽约时报\\\"评

    2024年02月02日
    浏览(38)
  • 东南亚语种分词和词频统计

    项目有一个需求,需要对16万缅甸语新闻做词频统计。首先是分词工具的选择和使用,然后是词频统计。 工具有voyant-tools、myanmar-tokenizer以及我使用的es的icu_analyzer。 结果是voyant-tools基于java,看不懂怎么用,听闻和myanmar-tokenizer一样会把词分得很细。icu_analyzer可以分得粗,音

    2024年02月09日
    浏览(44)
  • 使用hadoop进行词频统计测试案例

    1首先hadoop集群环境,使用jps’查看服务启动情况 1.1使用 start-all.sh 启动Hadoop集群环境   1..2使用jps查看服务启动情况  2创建一个需要进行处理的数据文件:word.txt 2.1 为了方便管理,首先创建一个文件夹(我这里创建已经创建了mydata,这个自定义)再在其下创建文件  2.2 进入

    2024年02月02日
    浏览(74)
  • Python统计词频的几种方法

    本文介绍python统计词频的几种方法,供大家参考 目录 方法一:运用集合去重方法 方法二:运用字典统计 方法三:使用计数器 说明:运用集合对文本字符串列表去重,这样统计词汇不会重复,运用列表的counts方法统计频数,将每个词汇和其出现的次数打包成一个列表加入到

    2024年02月13日
    浏览(32)
  • 文本分析-使用Python做词频统计分析

    🤵‍♂️ 个人主页:@艾派森的个人主页 ✍🏻作者简介:Python学习者 🐋 希望大家多多支持,我们一起进步!😄 如果文章对你有帮助的话, 欢迎评论 💬点赞👍🏻 收藏 📂加关注+ 前言 前面我们已经介绍了文本分析中的中文分词和去除停用词,这篇文章将详细介绍分词后

    2024年02月10日
    浏览(33)
  • Python英文词频统计(哈姆雷特)程序示例

    今天继续给大家介绍Python相关知识,本文主要内容是Python英文词频统计程序示例,主要是对英文文本——《哈姆雷特》进行分词。 想要对《哈姆雷特》进行英文单词词频统计,那么我们首先需要拿到《哈姆雷特》的原文,将之存储为本地的txt文档,然后使用Python打开该文件,

    2024年02月04日
    浏览(59)
  • 统计文本词频的几种方法(Python)

    目录 1. 单句的词频统计 2. 文章的词频统计 方法一:运用集合去重方法 方法二:运用字典统计 方法三:使用计数器 词频统计是自然语言处理的基本任务,针对一段句子、一篇文章或一组文章,统计文章中每个单词出现的次数,在此基础上发现文章的主题词、热词。 思路:首

    2024年02月04日
    浏览(33)
  • python使用jieba分词,词频统计,基本使用

    python采用第三方库进行中文分词,本文章只是记录文章。 1.需要下载第三方库jieba:                 cmd: pip install jieba 2.为了方便测试,在同级目录下,准备一个txt格式文件,文件名随意,这里我也是随便取的:                 文件路径可以是绝对路径,也可以是相对路

    2024年02月07日
    浏览(34)
  • 使用ReduceByKey在Spark中进行词频统计

    Spark采用Local模式运行,Spark版本3.2.0,Scala版本2.12,集成idea开发环境。 在执行 reduceByKey(_ + _) 这一步后,生成的 RDD 将包含每个单词及其对应的累加值,数据结构类似于 (单词, 累加值)。 在上下文中,_ + _ 表示一个匿名函数,用于对两个相同类型的值进行相加操作。在这里,

    2024年02月13日
    浏览(28)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包