第1关:HDFS的基本操作
在右侧命令行中启动Hadoop,进行如下操作。
在HDFS中创建/usr/output/文件夹;
在本地创建hello.txt文件并添加内容:“HDFS的块比磁盘的块大,其目的是为了最小化寻址开销。”;
将hello.txt上传至HDFS的/usr/output/目录下;
删除HDFS的/user/hadoop目录;
将Hadoop上的文件hello.txt从HDFS复制到本地/usr/local目录。
start-dfs.sh
hadoop fs -mkdir /usr
hadoop fs -mkdir /usr/output
vim hello.txt
hadoop fs -put hello.txt /usr/output
hadoop fs -rm -r /user/hadoop
hadoop fs -copyToLocal /usr/output/hello.txt /usr/local
第2关:HDFS-JAVA接口之读取文件
在右侧代码编辑区中编写代码实现如下功能:
使用FSDataInputStream获取HDFS的/user/hadoop/目录下的task.txt的文件内容,并输出,其中uri为hdfs://localhost:9000/user/hadoop/task.txt。
package step2;
import java.io.IOException;
import java.io.InputStream;
import java.net.URI;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
public class FileSystemCat {
public static void main(String[] args) throws IOException {
//请在Begin-End之间添加你的代码,完成任务要求。
/********* Begin *********/
URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
Configuration config = new Configuration();
FileSystem fs = FileSystem.get(uri,config);
InputStream in = null;
try{
in = fs.open(new Path(uri));
IOUtils.copyBytes(in, System.out,2048,false);
}catch (Exception e){
IOUtils.closeStream(in);
}
/********* End *********/
}
}
第3关:HDFS-JAVA接口之上传文件
在右侧代码编辑区和命令行中,编写代码与脚本实现如下功能:
在/develop/input/目录下创建hello.txt文件,并输入如下数据:迢迢牵牛星,皎皎河汉女。纤纤擢素手,札札弄机杼。终日不成章,泣涕零如雨。河汉清且浅,相去复几许?盈盈一水间,脉脉不得语。《迢迢牵牛星》
使用FSDataOutputStream对象将文件上传至HDFS的/user/tmp/目录下,并打印进度。
先在命令行创建文件,并启动hadoop
mkdir /develop
mkdir /develop/input
cd /develop/input
vim hello.txt
start-dfs.sh
然后在代码文件中写入:
package step3;
import java.io.BufferedInputStream;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.io.InputStream;
import java.net.URI;
import java.io.File;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.apache.hadoop.util.Progressable;
public class FileSystemUpload {
public static void main(String[] args) throws IOException {
//请在 Begin-End 之间添加代码,完成任务要求。
/********* Begin *********/
File localPath = new File("/develop/input/hello.txt");
String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";
InputStream in = new BufferedInputStream(new FileInputStream(localPath));
Configuration config = new Configuration();
FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);
long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;
FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {
long fileCount = 0;
public void progress() {
System.out.println("总进度" + (fileCount / fileSize) * 100 + "%");
fileCount++;
}
});
IOUtils.copyBytes(in, out, 2048, true);
/********* End *********/
}
}
第4关:HDFS-JAVA接口之删除文件
在右侧代码区填充代码,实现如下功能:
删除HDFS的/user/hadoop/目录(空目录);
删除HDFS的/tmp/test/目录(非空目录);
列出HDFS根目录下所有的文件和文件夹;
列出HDFS下/tmp/的所有文件和文件夹。
先在命令行启动hadoop文章来源:https://www.toymoban.com/news/detail-426480.html
start-dfs.sh
然后在代码文件中写入:文章来源地址https://www.toymoban.com/news/detail-426480.html
package step4;
import java.io.IOException;
import java.net.URI;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FileUtil;
import org.apache.hadoop.fs.Path;
public class FileSystemDelete {
public static void main(String[] args) throws IOException {
//请在 Begin-End 之间添加代码,完成本关任务。
/********* Begin *********/
String root = "hdfs://localhost:9000/";
String path = "hdfs://localhost:9000/tmp";
String del1 = "hdfs://localhost:9000/user/hadoop";
String del2 = "hdfs://localhost:9000/tmp/test";
Configuration config = new Configuration();
FileSystem fs = FileSystem.get(URI.create(root),config);
fs.delete(new Path(del1),true);
fs.delete(new Path(del2),true);
Path[] paths = {new Path(root),new Path(path)};
FileStatus[] status = fs.listStatus(paths);
Path[] listPaths = FileUtil.stat2Paths(status);
for (Path path1 : listPaths){
System.out.println(path1);
}
/********* End *********/
}
}
到了这里,关于头歌 分布式文件系统HDFS 答案的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!