背景
- 相比较于个人PC,服务器一般可以通过挂载多块磁盘来扩大单机的存储能力
- 在Hadoop HDFS中,DataNode负责最终数据block的存储,在所在机器上的磁盘之间分配数据块。当写入新block时,DataNodes将根据选择策略(循环策略或可用空间策略)来选择block的磁盘(卷)
- 循环策略:它将新的block均匀分布在可用磁盘上
- 可用空间策略:此策略将数据写入具有更多可用空间(按百分比)的磁盘
产生的问题以及解决方法
- 在长期运行的集群中采用循环策略的时,DataNode有时会不均匀的填充其存储目录(磁盘/卷),从而导致某些磁盘已满而其他磁盘却很少使用的情况。发生这种情况的原因可能是由于大量的写入和删除操作,也可能是由于更换了磁盘。
- 另外,如果我们使用基于可用空间选择策略,则每个新写入将进入新添加的空磁盘,从而使该期间的其他磁盘处于空闲状态,这将在新磁盘上创建瓶颈。
- 因此需要一种INTRA DATANODE BALANCING(DataNode内数据块的均匀分布)来解决intra-DataNode偏斜(在磁盘上块的不均匀分布),这种偏斜是由于磁盘更换或随机写入和删除发生的。
- 因此,hadoop3.0中引入了一个名为disk balancer的工具,该工具专注于在DataNode内分发数据
hdfs disk balancer简介
- hdfs disk balancer是hadoop3中引入的命令行工具,用于平衡DataNode中的数据在磁盘指甲分布不均匀问题。在这里特别注意,hdfs diskbalancer与hdfsbalancer是不同的
HDFS Disk Balancer功能
数据传播报告
为了衡量集群中哪些计算机遭受数据分布不均的影响,磁盘平衡器定义了volume data density metric(磁盘/卷数据密度度量标准)和Node Data Density metric(节点数据密度度量标准)
- 卷(磁盘)数据密度:比较同台机器上不同卷之间的数据分布情况
- 节点数据密度:比较的是不同机器之间的
- 卷数据密度计算
假设有一台具有四个卷的计算机,各个磁盘的使情况
文章来源:https://www.toymoban.com/news/detail-621365.html
- 磁盘平衡
当指定某个datanode节点进行disk数据平衡,就可以先计算或读取当前的volume data density(磁盘数据密度)。有了这些数据,我们可以轻松确定哪些卷已经超量配置,哪些卷已经不足
为了将数据从一个卷移动到datanode中的另一个卷,Hadoop开发实现了基于rpc协议的disk balancer
HDFS Disk Balancer开启
- hdfs disk balancer通过创建计划进行操作,该计划是一组语句,描述应在两个磁盘之间移动多少数据,然后在datanode上执行该语句。计划包含多个移动步骤。计划中的每个移动步骤都具有目标磁盘,源磁盘的地址。移动步骤还具有要移动的字节数。该计划是针对可操作的datanode执行的
- 默认情况下,Hadoop集群上已经启用了disk balancer功能。通过hdfs-site.xml中调整dfs.disk.balancer.enabled参数值,选择在Hadoop中是否启用磁盘平衡器
相关命令
- plan计划
命令:hdfs diskbalancer -plan < datanode>
文章来源地址https://www.toymoban.com/news/detail-621365.html
到了这里,关于磁盘均衡器:HDFS Disk Balancer的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!