《大数据系统与编程》MapReduce程序实现词频统计实验报告

这篇具有很好参考价值的文章主要介绍了《大数据系统与编程》MapReduce程序实现词频统计实验报告。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

MapReduce程序实现词频统计           

  • 实验目的

1) 理解Hadoop中MapReduce模块的处理逻辑;

2)熟悉MapReduce编程;

  • 实验平台

操作系统:Linux

工具:Eclipse或者Intellij Idea等Java IDE

  • 实验内容

1) 在电脑上新建文件夹input,并input文件夹中创建三个文本文件:file1.txt,file2.txt,file3.txt。三个文本文件的内容分别是:

file1.txt: hello dblab world

file2.txt: hello dblab hadoop

file3.txt: hello mapreduce

2) 启动hadoop伪分布式,将input文件夹上传到HDFS上

3) 编写mapreduce程序,实现单词出现次数统计(MapReduce的程序可以用Eclipse编译运行或使用命令行编译打包运行,使用其中一种即可)。统计结果保存到hdfs的output文件夹。

  • 实验代码和结果(截图展示)

(1在local下创建input文件夹,同时修改权限,再修改里面的文本文件。

《大数据系统与编程》MapReduce程序实现词频统计实验报告

(2) 启动hadoop伪分布式,将input文件夹上传到HDFS上

《大数据系统与编程》MapReduce程序实现词频统计实验报告

 《大数据系统与编程》MapReduce程序实现词频统计实验报告

(3)编写mapreduce程序,实现单词出现次数统计(MapReduce的程序可以用Eclipse编译运行或使用命令行编译打包运行,使用其中一种即可)。统计结果保存到hdfs的output文件夹

《大数据系统与编程》MapReduce程序实现词频统计实验报告

配置好参数之后,运行如下图:

《大数据系统与编程》MapReduce程序实现词频统计实验报告

可以看见左边的MapReduce中有了output的文件夹。里面包含了程序运行之后的信息。

《大数据系统与编程》MapReduce程序实现词频统计实验报告文章来源地址https://www.toymoban.com/news/detail-486008.html

  • 遇到的问题及如何解决

到了这里,关于《大数据系统与编程》MapReduce程序实现词频统计实验报告的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 使用eclipse实现MapReduce实践编程---统计不同手机号的用户使用的总流量

    根据用户手机上网的行为记录,基于 MapReduce编程模型设计程序统计不同手机号的用户使用的总流量。其中,数据记录的字段描述如下。 序号 字段 字段类型 描述 0 reportTime long 记录报告时间戳 1 msisdn String 手机号码 2 apmac String AP mac 3 acmac String AC mac 4 host String 访问的网址 5 si

    2024年04月28日
    浏览(42)
  • 实验5 MapReduce初级编程实践(1)——编程实现文件合并和去重操作

    通过实验掌握基本的MapReduce编程方法; 掌握用MapReduce解决一些常见的数据处理问题,包括数据去重、数据排序和数据挖掘等。 操作系统:Linux(建议Ubuntu16.04或Ubuntu18.04) Hadoop版本:3.1.3 编程实现文件合并和去重操作 对于两个输入文件,即文件A和文件B,请编写MapReduce程序,

    2023年04月15日
    浏览(50)
  • 大数据技术原理与应用实验4——MapReduce初级编程实践

    链接: 大数据技术原理与应用实验1——熟悉常用的HDFS操作 链接: 大数据技术原理与应用实验2——熟悉常用的Hbase操作 链接: 大数据技术原理与应用实验3——NoSQL和关系数据库的操作比较 (1)通过实验掌握基本的MapReduce编程方法; (2)掌握用MapReduce解决一些常见的数据处理

    2024年02月06日
    浏览(54)
  • 大数据技术原理及应用课实验5 :MapReduce初级编程实践

    目录 一、实验目的 二、实验平台 三、实验步骤(每个步骤下均需有运行截图) (一)编程实现文件合并和去重操作 (二)编写程序实现对输入文件的排序 (三)对给定的表格进行信息挖掘 四、实验总结 五、优化及改进(选做) 实验5  MapReduce初级编程实践 1. 通过实验掌

    2024年01月21日
    浏览(47)
  • 云计算与大数据入门实验四 —— MapReduce 初级编程实践

    通过实验掌握基本的 MapReduce 编程方法 掌握用 MapReduce 解决一些常见的数据处理问题,包括数据去重、数据排序和数据挖掘等 (一)编程实现文件合并和去重操作 对于两个输入文件,即文件A和文件B,请编写MapReduce程序,对两个文件进行合并,并剔除其中重复的内容,得到一个

    2024年02月05日
    浏览(46)
  • Python英文词频统计(哈姆雷特)程序示例

    今天继续给大家介绍Python相关知识,本文主要内容是Python英文词频统计程序示例,主要是对英文文本——《哈姆雷特》进行分词。 想要对《哈姆雷特》进行英文单词词频统计,那么我们首先需要拿到《哈姆雷特》的原文,将之存储为本地的txt文档,然后使用Python打开该文件,

    2024年02月04日
    浏览(69)
  • 数据结构基于不同方式词频统计和查找

    实践题目 : 基于不同策略的英文单词的词频统计和检索系统 、实验目的 掌握基于顺序表的顺序查找、基于链表的顺序查找、折半查找)、二叉排序树和哈希表(包括基于开放地址法的哈希查找)   实验内容    一篇英文文章存储在一个文本文件中,然后分别基于线性表、

    2024年02月12日
    浏览(63)
  • 实验三-MapReduce编程

    前提:安装好Hadoop 参考文章: MapReduce编程实践(Hadoop3.1.3)_厦大数据库实验室博客 实验要求 实验步骤         1. 启动Hadoop                   2. 上传本地文件至hdfs中         在hdfs中创建存放本地文件的文件夹         将文件上传至hdfs中           (上传结果

    2024年02月06日
    浏览(34)
  • Spark大数据处理学习笔记(2.4)IDEA开发词频统计项目

    该文章主要为完成实训任务,详细实现过程及结果见【http://t.csdn.cn/0qE1L】 从Scala官网下载Scala2.12.15 - https://www.scala-lang.org/download/2.12.15.html 安装在默认位置 安装完毕 在命令行窗口查看Scala版本(必须要配置环境变量) 启动HDFS服务 启动Spark集群 在master虚拟机上创建单词文件

    2024年02月08日
    浏览(56)
  • 实验5:MapReduce 初级编程实践

    由于CSDN上传md文件总是会使图片失效 完整的实验文档地址如下: https://download.csdn.net/download/qq_36428822/85709497 实验内容与完成情况: (一)编程实现文件合并和去重操作 对于两个输入文件,即文件 A 和文件 B,请编写 MapReduce 程序,对两个文件进行合并, 并剔除其中重复的内

    2024年02月07日
    浏览(57)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包