5、HDFS API的RESTful风格--WebHDFS

这篇具有很好参考价值的文章主要介绍了5、HDFS API的RESTful风格--WebHDFS。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

Hadoop系列文章目录

1、hadoop3.1.4简单介绍及部署、简单验证
2、HDFS操作 - shell客户端
3、HDFS的使用(读写、上传、下载、遍历、查找文件、整个目录拷贝、只拷贝文件、列出文件夹下文件、删除文件及目录、获取文件及文件夹属性等)-java
4、HDFS-java操作类HDFSUtil及junit测试(HDFS的常见操作以及HA环境的配置)
5、HDFS API的RESTful风格–WebHDFS
6、HDFS的HttpFS-代理服务
7、大数据中常见的文件存储格式以及hadoop中支持的压缩算法
8、HDFS内存存储策略支持和“冷热温”存储
9、hadoop高可用HA集群部署及三种方式验证
10、HDFS小文件解决方案–Archive
11、hadoop环境下的Sequence File的读写与合并
12、HDFS Trash垃圾桶回收介绍与示例
13、HDFS Snapshot快照
14、HDFS 透明加密KMS
15、MapReduce介绍及wordcount
16、MapReduce的基本用法示例-自定义序列化、排序、分区、分组和topN
17、MapReduce的分区Partition介绍
18、MapReduce的计数器与通过MapReduce读取/写入数据库示例
19、Join操作map side join 和 reduce side join
20、MapReduce 工作流介绍
21、MapReduce读写SequenceFile、MapFile、ORCFile和ParquetFile文件
22、MapReduce使用Gzip压缩、Snappy压缩和Lzo压缩算法写文件和读取相应的文件
23、hadoop集群中yarn运行mapreduce的内存、CPU分配调度计算与优化



本文简单介绍WebHDFS和使用。

一、介绍

1、WebHDFS概述

WebHDFS 提供了访问HDFS的RESTful接口,内置组件,默认开启。
WebHDFS 使得集群外的客户端可以不用安装HADOOP和JAVA环境就可以对HDFS进行访问,且客户端不受语言限制。
当客户端请求某文件时,WebHDFS会将其重定向到该资源所在的datanode。
hdfs restful接口,# hadoop专栏,hdfs,restful,hadoop,大数据,bigdata

2、格式

FileSystem URIs vs HTTP URLs
WebHDFS的文件系统schema为webhdfs://。URL格式为:
webhdfs://:<HTTP_PORT>/


效果相当于 hdfs://:<RPC_PORT>/


在RESTful风格的API中,相应的HTTP URL格式:
http://:<HTTP_PORT>/webhdfs/v1/

?op=…
hdfs restful接口,# hadoop专栏,hdfs,restful,hadoop,大数据,bigdata

3、HTTP RESTful API参数

官网帮助文档的说明
hdfs restful接口,# hadoop专栏,hdfs,restful,hadoop,大数据,bigdata
hdfs restful接口,# hadoop专栏,hdfs,restful,hadoop,大数据,bigdata

二、使用示例

hadoop的HDFS Web UI,其文件浏览功能是基于WebHDFS来操作HDFS实现的。如下示例:
hdfs restful接口,# hadoop专栏,hdfs,restful,hadoop,大数据,bigdata

  • 基于HTTP RESTful API操作演示
    查看目录下所有文件及文件夹
    hdfs restful接口,# hadoop专栏,hdfs,restful,hadoop,大数据,bigdata
    在浏览器地址栏中输入:http://192.168.10.41:9870/webhdfs/v1/?op=LISTSTATUS
    展示结果如下,其访问命令如上图 hadoop fs -ls /:
    hdfs restful接口,# hadoop专栏,hdfs,restful,hadoop,大数据,bigdata
    读取指定文件内容
# 语法格式:
http://<HOST>:<PORT>/webhdfs/v1/<PATH>?op=OPEN[&offset=<LONG>][&length=<LONG>][&buffersize=<INT>][&noredirect=<true|false>]
# 其中noredirect参数用于指定是否重定向到一个datanode,在该节点可以读取文件数据
# 示例1
http://192.168.10.41:9870/webhdfs/v1/test/testing.txt?op=open&noredirect=false
# 示例2 -会直接下载数据文件
http://192.168.10.41:9870/webhdfs/v1/test/testing.txt?op=open&noredirect=true

hdfs restful接口,# hadoop专栏,hdfs,restful,hadoop,大数据,bigdata文章来源地址https://www.toymoban.com/news/detail-695128.html

到了这里,关于5、HDFS API的RESTful风格--WebHDFS的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【SpringBoot】| 接口架构风格—RESTful

    目录   一:接口架构风格—RESTful 1. 认识RESTful 2. RESTful 的注解 1. 认识RESTful (1)接口 ①接口: API(Application Programming Interface,应用程序接口)是一些预先定义的接口(如函数、HTTP接口),或指软件系统不同组成部分衔接的约定。 用来提供应用程序与开发人员基于某软件

    2024年02月13日
    浏览(40)
  • Restful风格使用postman测试接口【增删查改示例】

    Postman 最早是google的一个插件存在的,但是又google退出中国以及postman团队对工具的定位,主攻pc端app的开发及优化,现在的google插件已经很少再使用了,postman虽然是一个商用软件,但是对于我们普通用户来说,基本功能完全够用的。 Postman 从最初设计上就是为接口测试而生的

    2024年02月06日
    浏览(55)
  • 学习笔记230804---restful风格的接口,delete的传参方式问题

    如果后端提供的删除接口是restful风格,那么使用地址栏拼接的方式发送请求,数据放在主体中,后端接受不到,当然也还有一种可能,后端在这个接口的接参设置上是req.query接参。 问题描述 今天遇到的问题是,delete接口,需要传id,后端需要id的数据类型是lang类型,使用数

    2024年02月12日
    浏览(40)
  • 用Kettle调用Restful API 接口

    前言 作为一名架构师,在带领团队进行项目开发时,笔者认为一定要遵循一个原则:能借助第三方工具解决的开发任务,尽量用工具解决,以此来减少开发量,这样不但能够提高团队的工作效率,便于项目及时交付,也能在开发人员数量一定的条件下,更容易把余下的开发工

    2024年02月01日
    浏览(45)
  • API 接口选择那个?RESTful、GraphQL、gRPC、WebSocket、Webhook

    大家好,我是比特桃。目前我们的生活紧紧地被大量互联网服务所包围,互联网上每天都有数百亿次API调用。API 是两个设备相互通讯的一种方式,人们在手机上每次指尖的悦动,背后都是 API 接口的调用。 本文将列举常见的一些 API 接口,并阐述它们之间的优缺点及关系。

    2024年02月11日
    浏览(50)
  • 医院信息系统HIS源码——接口技术:RESTful API + WebSocket + WebService

    云HIS系统采用SaaS软件应用服务模式,提供软件应用服务多租户机制,实现一中心部署多机构使用。相对传统HIS单机构应用模式,它可灵活应对区域医疗、医疗集团、医联体、连锁诊所、单体医院等应用场景,并提升区域内应用的标准化与规范化程度,大幅降低软件实施运维成

    2024年02月02日
    浏览(73)
  • # Spring MVC与RESTful API:如何设计高效的Web接口

    🌷🍁 博主猫头虎(🐅🐾)带您 Go to New World✨🍁 🦄 博客首页 ——🐅🐾猫头虎的博客🎐 🐳 《面试题大全专栏》 🦕 文章图文并茂🦖生动形象🐅简单易学!欢迎大家来踩踩~🌺 🌊 《IDEA开发秘籍专栏》 🐾 学会IDEA常用操作,工作效率翻倍~💐 🌊 《100天精通Golang(基础

    2024年02月09日
    浏览(89)
  • API攻防-接口安全&SOAP&OpenAPI&RESTful&分类特征导入&项目联动检测

    接口是后端设计的一套供给第三方使用的方法 举个例子,fofa提供了第三方api接口来进行调用,使用查询语法获取资产目标资产信息 输入相关参数进行调用 API安全就是围绕着这一个接口进行的,可能存在的漏洞包括:SQL注入、身份验证、信息泄漏、XSS跨站等 Web Service是基于网

    2024年02月07日
    浏览(49)
  • 【SpringMVC】| RESTful架构风格、RESTful案例(CRUD)

    目录    RESTful架构风格 1. RESTful简介 2. RESTful的实现 3. HiddenHttpMethodFilter RESTful案例(CRUD) 1. 准备工作 2. 功能清单 列表功能(显示数据)  删除数据(难点) 添加数据  更新数据 图书推荐:用ChatGPT与VBA一键搞定Excel REST: Re presentational S tate T ransfer, 表现层资源状态转移

    2024年02月08日
    浏览(49)
  • Java Restful API接口获取请求头、请求体、以及设置响应状态码、应答(响应)体等

    一、获取请求头 接口示例1: 1、从 request 对象中获取请求头: 二、获取请求体 1、从 request 对象中,使用缓冲流读取器、stream流等方式获取请求体 推荐写法一:

    2024年02月16日
    浏览(45)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包