Java Api操作HDFS

这篇具有很好参考价值的文章主要介绍了Java Api操作HDFS。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

示例代码

链接:https://pan.baidu.com/s/1yUnJh-j9EKmL2hPF8biAtg?pwd=dv12 提取码:dv12

鼠鼠遇到的坑!!!

  • 之前配置的Hadoopcore-site.xml文件中的配置的fs.defaultFS地址是hdfs://localhost:9000,然后后面Java连不上hdfs
  • 9000端口也是打开了,但就是连不上
  • 9870端口也能正常访问
  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos
  • 防火墙也关闭了,也不行
  • 查阅诸多资料发现问题是Hadoop配置文件core-site.xmlfs.defaultFS地址问题
  • 只需将localhost改为自身IP即可
  • core-site.xml配置如下
<configuration>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/opt/hadoop/tmp</value>
        <description>location to store temporary files</description>
    </property>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://192.168.186.2:9000</value>
        <!-- <value>hdfs://localhost:9000</value> -->
    </property>
</configuration>
  • 修改完后重启Hadoop
  • Java即可成功连接

HDFS常量类用于配置HDFS

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

HDFS配置相关代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

1.向 HDFS 中上传任意文本文件,如果指定的文件在 HDFS 中已经存在,由用户指定是追加到原有文件末尾还是覆盖原有的文件。

代码实现

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos
  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

测试

文件不存在
  • 查看当前HDFS文件是否存在
    -Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 本地文件内容

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码,方法首先会判断文件是否存在,此时无论选择哪个参数,都是直接上传

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 查看是否成功,如图成功

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

覆盖
  • 查看当前HDFS文件为内容hello

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 本地文件内容为hello world!

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码(选择OVER_WRITE参数)

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 查看HDFS文件内容是否为hello world!,如图覆盖成功

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

追加到末尾
  • 查看当前HDFS文件为内容hello world!

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 本地文件内容为Haoop!

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码(选择APPEND_TO_END参数)

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 查看HDFS文件内容是否为hello world!Hadoop!,如图追加成功

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

2.从 HDFS 中下载指定文件,如果本地文件与要下载的文件名称相同,则自动对下载的文件重命名。

代码实现

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

测试

本地不存在同名文件
  • 查看HDFS文件内容hello world!Hadoop!

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 查看下载下来的文件内容是否为hello world!Hadoop!,如图成功

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

本地存在同名文件
  • 查看HDFS文件内容hello Java!

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 查看下载下来并重命名的文件内容是否为hello Java!,如图成功

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

将 HDFS 中指定文件的内容在终端显示。

代码实现

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

测试

  • 查看HDFS文件内容hello Java!

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果(结果与HDFS文件内容hello Java!一致,成功)

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

显示HDFS中指定的文件读写权限、大小、创建时间、路径等信息。

代码实现

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

测试

  • shell命令查看HDFS文件信息

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果(与shell命令执行结果一致,成功)

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

3.给定HDFS中某一个目录,输出该目录下的所有文件的读写权限、大小、创建时间、路径等信息。

代码实现

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

测试

  • shell命令查看HDFS目录信息

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果(与shell命令执行结果一致,成功)

  • 外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

4.提供一个 HDFS 中的文件的路径,对该文件进行创建和删除操作。如果文件所在目录不存在,则自动创建目录。

代码实现

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

测试

文件所在目录存在
  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

文件所在目录不存在
  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

5.向HDFS中指定的文件追加内容,由用户指定将内容追加到原有文件的开头或结尾。

代码实现

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

测试

追加到开头
  • HDFS文件内容为Hadoop

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 本地文件内容为Hello!

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 查看HDFS文件内容是否为Hello!Hadoop,如图成功

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

追加到结尾
  • HDFS文件内容为Hello!Hadoop

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 本地文件内容为!Java

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 查看HDFS文件内容是否为Hello!Hadoop!Java,如图成功

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

6.删除 HDFS 中指定的文件。

代码实现

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

测试

  • 查看要删除的HDFS文件

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 查看HDFS是否删除,如图成功

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

7.在HDFS中将文件从源路径移动到目的路径。

代码实现

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

测试

/user/root/test.txt文件移动到/user/root/test目录下
  • 查看HDFS/user/root/test目录下没有文件

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 测试代码

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 运行结果

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos

  • 查看HDFS,如图移动成功

  • Java Api操作HDFS,java,hdfs,开发语言,hadoop,大数据,idea,centos文章来源地址https://www.toymoban.com/news/detail-860720.html

到了这里,关于Java Api操作HDFS的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Java Api操作HDFS

    链接:https://pan.baidu.com/s/1yUnJh-j9EKmL2hPF8biAtg?pwd=dv12 提取码:dv12 之前配置的 Hadoop 的 core-site.xml 文件中的配置的 fs.defaultFS 地址是 hdfs://localhost:9000 ,然后后面 Java 连不上 hdfs 9000 端口也是打开了,但就是连不上 9870 端口也能正常访问 防火墙也关闭了,也不行 查阅诸多资料发现问

    2024年04月28日
    浏览(42)
  • HDFS Java API 操作

    Hadoop是使用Java语言编写的,因此使用Java API操作Hadoop文件系统,HDFS Shell本质上就是对Java API的应用,通过编程的形式,操作HDFS,其核心是使用HDFS提供的Java API构造一个访问客户端对象,然后通过客户端对象对HDFS上的文件进行操作(增,删,改,查) 1、hdfs 常见类与接口 Hadoop

    2023年04月12日
    浏览(37)
  • HDFS 的Java API操作

    1、环境搭建 基于Linux的Hadoop(2.7.4)集群 windowsp平台的hadoop JDK hadoop和jdk的环境变量 IDEA 2、下载windowsp平台的hadoop,版本要与Linux下的一致 可以使用下载的Linux平台的Hadoop解压。然后在/bin目录下添加Windows相关依赖winutils.exe、winutils.pdb、hadoop.dll 然后在目录hadoopwhadoop-2.7.4etchad

    2024年02月04日
    浏览(36)
  • Java API 操作HDFS文件

    使用JavaAPI操作hdfs 文件的常用操作代码 1.创建目录 2.创建文件 3.重命名 4.上传本地文件到hdfs 5.查看某个目录下的所有文件 6.查看文件块信息 7.文件读写 8.文件上传 9.文件下载 10.使用字节流读取数据 11.删除文件 12.删除文件夹 13.自定义数据输入流

    2024年02月11日
    浏览(38)
  • Java 操作 Hadoop 集群之 HDFS 的应用案例详解

    注意:本文内容基于 Hadoop 集群搭建完成基础上: Linux 系统 CentOS7 上搭建 Hadoop HDFS集群详细步骤 本文的内容是基于下面前提: Hadoop 集群搭建完成并能正常启动和访问 Idea 和 Maven 分别安装完成 需要有 JavaSE 基础和熟悉操作hadoop 的 hdfs dfs 命令 Maven 及 idea 中 Maven 相关配置 本地

    2024年04月16日
    浏览(42)
  • 大数据学习:使用Java API操作HDFS

    一、创建Maven项目 二、添加依赖 在 pom.xml 文件里添加 hadoop 和 junit 依赖 三、创建日志属性文件 在 resources 目录里创建 log4j.properties 文件 代码 四、在HDFS上创建文件 在 /ied01 目录创建 hadoop2.txt 文件 创建 net.xxr.hdfs 包,在包里创建 CreateFileOnHDFS 类 编写 create1() 方法 结果 利用H

    2024年02月08日
    浏览(38)
  • Hadoop 使用Linux操作系统与Java熟悉常用的HDFS操作

    注意看评论区获取完整代码资料 目录 一、实验目的 二、实验平台 三、实验步骤 理解HDFS在Hadoop体系结构中的角色; 熟练使用HDFS操作常用的Shell命令; 熟悉HDFS操作常用的Java API。 操作系统:Linux(建议Ubuntu16.04); Hadoop版本:2.7.1; JDK版本:1.8或以上版本; Java IDE:Eclipse。

    2024年02月03日
    浏览(51)
  • Hadoop HDFS的API操作

    hadoop的 Windows依赖文件夹,拷贝hadoop-3.1.0到非中文路径(比如d:)。 配置HADOOP_HOME环境变量 配置Path环境变量。 不能放在包含有空格的目录下,cmd 输入hadoop显示此时不应有 hadoop-3.0.0bin。我放在E:Program Files (x86) hadoop-3.0.0bin中,就出现错误 验证Hadoop环境变量是否正常。双击

    2024年02月05日
    浏览(44)
  • 【Hadoop】HDFS API 操作大全

    🦄 个人主页——🎐开着拖拉机回家_Linux,大数据运维-CSDN博客 🎐✨🍁 🪁🍁 希望本文能够给您带来一定的帮助🌸文章粗浅,敬请批评指正!🍁🐥 🪁🍁🪁🍁🪁🍁🪁🍁 🪁🍁🪁🍁🪁🍁🪁 🪁🍁🪁🍁🪁🍁🪁🍁🪁🍁🪁🍁 🍁🪁🍁 🪁🍁🪁🍁 感谢点赞和关注 ,

    2024年02月07日
    浏览(39)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包