【头歌】大数据从入门到实战 - 第2章 分布式文件系统HDFS

这篇具有很好参考价值的文章主要介绍了【头歌】大数据从入门到实战 - 第2章 分布式文件系统HDFS。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

第1关:HDFS的基本操作

任务描述

本关任务:使用 Hadoop 命令来操作分布式文件系统。

编程要求

在右侧命令行中启动 Hadoop ,进行如下操作。

  • HDFS 中创建 /usr/output/ 文件夹;
  • 在本地创建 hello.txt 文件并添加内容:“ HDFS 的块比磁盘的块大,其目的是为了最小化寻址开销。”;
  • hello.txt 上传至 HDFS/usr/output/ 目录下;
  • 删除 HDFS/user/hadoop 目录;
  • Hadoop 上的文件 hello.txtHDFS 复制到本地 /usr/local 目录。

测试说明

平台会查看你本地的文件和 HDFS 的文件是否存在,如果存在,则会将其内容输出到控制台。

预期输出:

HDFS的块比磁盘的块大,其目的是为了最小化寻址开销。

HDFS的块比磁盘的块大,其目的是为了最小化寻址开销。

代码如下

start-dfs.sh
hadoop fs -mkdir /usr
hadoop fs -mkdir /usr/output
vim hello.txt
hadoop fs -put hello.txt /usr/output
hadoop fs -rm -r /user/hadoop
hadoop fs -copyToLocal /usr/output/hello.txt /usr/local

第2关:HDFS-JAVA接口之读取文件

任务描述

本关任务:使用 HDFSJava 接口进行文件的读写,文件 uri 地址为 hdfs://localhost:9000/user/hadoop/task.txt

编程要求

在右侧代码编辑区中编写代码实现如下功能:

  • 使用 FSDataInputStream 获取 HDFS/user/hadoop/ 目录下的 task.txt 的文件内容,并输出,其中 urihdfs://localhost:9000/user/hadoop/task.txt

测试说明

点击评测,平台会通过脚本创建 /user/hadoop/task.txt 文件并添加相应内容,无需你自己创建,开启 hadoop ,编写代码点击评测即可。因为 Hadoop 环境非常消耗资源,所以你如果一段时间不在线,后台会销毁你的镜像,之前的数据会丢失(你的代码不会丢失),这个时候需要你重新启动 Hadoop

预期输出:

 WARN [main] - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 怕什么真理无穷,进一寸有一寸的欢喜。

第一行打印出来的是 log4j 的日志警告,可以忽略。

代码如下

//先再命令行输入如下代码,然后再去代码文件粘贴java代码
start-dfs.sh
vim test.txt
i
//按i进入修改模式后,把下列中文粘贴进去  ctl+shift+v
独坐池塘如虎踞,绿荫树下养精神。

春来我不先开口,哪个虫儿敢作声。
//按Esc键推出修改模式
Esc
//输入:wq推出命令行模式
:wq
package step2;

import java.io.IOException;
import java.io.InputStream;
import java.net.URI;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;


public class FileSystemCat {
	
	public static void main(String[] args) throws IOException {
		//请在Begin-End之间添加你的代码,完成任务要求。
        //请按照左侧的编程要求进行编写代码
		//文件地址为 "hdfs://localhost:9000/user/hadoop/task.txt"
        /********* Begin *********/
		URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
        Configuration config = new Configuration();
        FileSystem fs = FileSystem.get(uri,config);
        InputStream in = null;
        try{
            in = fs.open(new Path(uri));
            IOUtils.copyBytes(in, System.out,2048,false);
        }catch (Exception e){
            IOUtils.closeStream(in);
        }
		/********* End *********/
	}
}

第3关:HDFS-JAVA接口之上传文件

任务描述

本关任务:使用 HDFSAPI 上传文件至集群。

编程要求

在右侧代码编辑区和命令行中,编写代码与脚本实现如下功能:

  • /develop/input/ 目录下创建 hello.txt 文件,并输入如下数据: 迢迢牵牛星,皎皎河汉女。 纤纤擢素手,札札弄机杼。 终日不成章,泣涕零如雨。 河汉清且浅,相去复几许? 盈盈一水间,脉脉不得语。 《迢迢牵牛星》

  • 使用 FSDataOutputStream 对象将文件上传至 HDFS/user/tmp/ 目录下,并打印进度。

测试说明

平台会运行你的 java 程序,并查看集群的文件将文件信息输出到控制台,第一行属于警告信息可以忽略。

代码如下

//先再命令行输入如下代码,然后再去代码文件粘贴java代码
start-dfs.sh
mkdir -p /develop/input
cd /develop/input
vim hello.txt
i
//输入i进入修改模式后把下面诗句粘贴进去 ctl+shift+v
迢迢牵牛星,皎皎河汉女。
纤纤擢素手,札札弄机杼。
终日不成章,泣涕零如雨。
河汉清且浅,相去复几许?
盈盈一水间,脉脉不得语。
《迢迢牵牛星》
//按Esc键退出修改模式
Esc
//输入:wq退出命令行模式
:wq  
package step3;


import java.io.BufferedInputStream;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.io.InputStream;
import java.net.URI;
import java.io.File;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.apache.hadoop.util.Progressable;


public class FileSystemUpload {
	
	public static void main(String[] args) throws IOException {
		//请在 Begin-End 之间添加代码,完成任务要求。
        /********* Begin *********/
		File localPath = new File("/develop/input/hello.txt");
        String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";
        InputStream in = new BufferedInputStream(new FileInputStream(localPath));
        Configuration config = new Configuration();
        FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);
        long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1; 
        FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {
            long fileCount = 0;
            public void progress() {
                System.out.println("总进度" + (fileCount / fileSize) * 100 + "%");
                fileCount++;
            }
        });
        IOUtils.copyBytes(in, out, 2048, true);
		
		/********* End *********/
	}
}

第4关:HDFS-JAVA接口之删除文件

任务描述

本关任务:删除 HDFS 中的文件和文件夹。

编程要求

在右侧代码区填充代码,实现如下功能:

  • 删除 HDFS/user/hadoop/ 目录(空目录);
  • 删除 HDFS/tmp/test/ 目录(非空目录);
  • 列出 HDFS 根目录下所有的文件和文件夹;
  • 列出 HDFS/tmp/ 的所有文件和文件夹。

测试说明

HDFS 的文件夹在你点击评测是会通过脚本自动创建,不需要你自己创建哦,依照题意编写代码点击评测即可。文章来源地址https://www.toymoban.com/news/detail-450388.html

代码如下

//先再命令行输入如下代码,然后再去代码文件粘贴java代码
start-dfs.sh
package step4;


import java.io.IOException;
import java.net.URI;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FileUtil;
import org.apache.hadoop.fs.Path;



public class FileSystemDelete {
	
	public static void main(String[] args) throws IOException {
		//请在 Begin-End 之间添加代码,完成本关任务。
        /********* Begin *********/
		
		String root = "hdfs://localhost:9000/";
        String path = "hdfs://localhost:9000/tmp";
        String del1 = "hdfs://localhost:9000/user/hadoop";
        String del2 = "hdfs://localhost:9000/tmp/test";
        Configuration config = new Configuration();
        FileSystem fs = FileSystem.get(URI.create(root),config);
        fs.delete(new Path(del1),true);
        fs.delete(new Path(del2),true);
        Path[] paths = {new Path(root),new Path(path)};
        FileStatus[] status = fs.listStatus(paths);
        Path[] listPaths = FileUtil.stat2Paths(status);
 
        for (Path path1 : listPaths){
  System.out.println(path1);
        }

		
		
		/********* End *********/
	}
}

到了这里,关于【头歌】大数据从入门到实战 - 第2章 分布式文件系统HDFS的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 头歌大数据——HBase 伪分布式环境搭建

    第1关:HBASE伪分布式环境搭建 编程要求 好了,到你啦,你需要先按照上次实训——HBase单节点安装的方式将 HBase 安装在 /app 目录下,然后根据本关知识配置好伪分布式的 HBase ,最后点击测评即可通关。 测试说明 程序会检测你的 HBase 服务和 Hadoop 服务是否启动,以及伪分布

    2024年02月08日
    浏览(73)
  • 大数据——HDFS(分布式文件系统)

    Hadoop的两大核心组件 HDFS ( Hadoop Distributed Filesystem ):是一个易于扩展的 分布式文件系统 ,运行在 成百上千 台 低成本 的 机器 上。 HDFS 具有 高度容错能力 ,旨在部署在低成本机器上。 HDFS 主要用于对 海量文件信息 进行 存储 和 管理 ,也就是解决大数据文件(如 TB 乃至

    2023年04月17日
    浏览(62)
  • 头歌Educoder云计算与大数据——实验五 Java API分布式存储

    原始电商数据都是存储在关系型数据库或 NoSQL 数据库上的,是面向OLTP(联机事务处理过程)的;数据都是面向业务的,而不是面向分析。因此数据比较复杂,表很多关联的数据是分散的,不利于统计分析;因此需要把数据从多个表里导出来、联合起来,找出分析所需要的数据项

    2023年04月09日
    浏览(63)
  • 分布式文件系统与HDFS的shell操作及查看元数据

      启动hadoop和hive的metastore 查看sbin的目录下的文件 执行./start-all.sh  查看相关的进程

    2024年02月16日
    浏览(56)
  • 大数据中的分布式文件系统MapReduce的选择题

    一. 单选题(共9题,49.5分) (单选题)下列传统并行计算框架,说法错误的是哪一项? A. 刀片服务器、高速网、SAN,价格贵,扩展性差上 B. 共享式(共享内存/共享存储),容错性好 C. 编程难度高 D. 实时、细粒度计算、计算密集型 正确答案: B:共享式(共享内存/共享存储),容错性好; 5.5分

    2024年02月04日
    浏览(40)
  • Zookeeper入门实战(5)-分布式锁

    在分布式环境中,当需要控制对某一资源的不同进程并发访问时就需要使用分布式锁;可以使用 ZooKeeper + Curator 来实现分布式锁,本文主要介绍 Curator 中分布式锁的使用,文中所使用到的软件版本:Java 1.8.0_341、Zookeeper 3.7.1、curator 5.4.0。 信号量用于控制对资源同时访问的进

    2024年02月08日
    浏览(57)
  • 【项目实战】分布式计算和通信框架(AKKA)入门介绍

    Akka是一个用于构建高并发、分布式、可容错、事件驱动的应用程序的工具包和运行时。它基于Actor模型,提供了一种高效的并发编程模型,可以轻松地编写出高并发、分布式、可容错的应用程序。Akka还提供了一些常用的组件,如路由、集群、持久化等,可以帮助开发人员更加

    2024年02月08日
    浏览(55)
  • SpringCloud入门实战(十五)分布式事务框架Seata简介

    📝 学技术、更要掌握学习的方法,一起学习,让进步发生 👩🏻 作者:一只IT攻城狮 ,关注我,不迷路 。 💐学习建议:1、养成习惯,学习java的任何一个技术,都可以先去官网先看看,更准确、更专业。 💐学习建议:2、然后记住每个技术最关键的特性(通常一句话或者

    2024年02月10日
    浏览(42)
  • redis实战-redis实现分布式锁&redisson快速入门

    前言 集群环境下的并发问题  分布式锁 定义 需要满足的条件 常见的分布式锁 redis实现分布式锁 核心思路 代码实现 误删情况 逻辑说明 解决方案 代码实现 更为极端的误删情况 Lua脚本解决原子性问题 分布式锁-redission redisson的概念 快速入门 总结 在前面我们已经实现了单机

    2024年02月09日
    浏览(52)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包