目录
理论知识点
角色功能
元数据持久化
安全模式
SecondaryNameNode(SNN)
副本放置策略
HDFS写流程
HDFS读流程
HA高可用
CPA原则
Paxos算法
HA解决方案
HDFS-Fedration解决方案(联邦机制)
理论知识点
角色功能
元数据持久化
另一台机器就是SecondaryNameNode(SNN)
安全模式
不保存位置信息的原因,是因为当机器重启恢复后,DN会和NN建立心跳,汇报块信息。这个过程叫安全模式。
SecondaryNameNode(SNN)
非HA模式下才有,SNN跟版本没有关系,企业一般不用SNN,而用高可用HA方式。
副本放置策略
塔式服务器:竖的,价格便宜
机架服务器:扁的,价格中等,最上面放一个交换机,ups(电源,电池防断电)
刀片服务器:插入的,价格较贵
2.x修正为第二个副本立即出机架,因为有可能把副本数修改为2
HDFS写流程
某个时间点,传其中一个block的时候状态图
client向NN请求创建文件,这个时候NN返回副本放置策略,按距离排序
HDFS读流程
HA高可用
主从:单点故障、压力过大、内存受限
2.x匆匆上线HA,只实现了一主一备,3.0之后一周多备,可以支持5个,官方推荐3个
一份为二,上面蓝色是故障切换自动化,下面是手动的HA模式
CPA原则
分区容忍性:即脑裂,
Paxos算法
帕克索斯算法:Google Chubby的作者Mike Burrows说过这个世界上只有一种一致性算法,那就是Paxos,其它的算法都是残次品。
主从+过半
参考:https://www.cnblogs.com/crazymakercircle/p/14341015.html
强一致、弱一致都能做,区块链中也是基于该算法
ZooKeeper中使用的是Paxos的简化版本ZAB,ZK做分布式协调
早期用的多,后来大家都把他剔除了,最多用zk选个主,做配置的同步,或者唯一性。因为zk解决是解决的是事件的触发,解决决策之间某一种事件的调用,不适合存东西。
JournalNodes(Journal杂志、期刊) 跟ZK不是一个东西,JournalNodes做分布式存储
JournalNodes是为了解决节点之间数据同步的。
HA解决方案
FalioverController是用来做健康检查的。
跟NN在同一个节点,它们是不同的进程,FalioverController会监控NN是否活着。
ZK维护一个目录树结构,主备FalioverController会在ZK同时申请在X节点下抢锁,谁抢到谁就是active,否则是standby。
当FalioverController进程监控到了Active的NN挂了,然后FalioverController会把ZK当中抢到的锁删掉。锁删除是一种事件机制,会有callback。
ZK Watch监控:FC抢锁时还在ZK的锁上注册了自己的地址还包括回调函数,当FC删除锁时,产生删除事件,这个删除事件就会触发callback,就会回调FC里的方法,在fc的进程里执行,这是FC发现锁没有了会重新抢锁。
如果是轮询查询锁在不在,会存在轮询间隔,所以会用事件callback机制。
NN还活着,FC挂了,与ZK节点挂了,FC临时节点随着TCP连接的消失,会触发删除事件。
FC会去检查之前Active的NN是不是真死了,没死就把它降级为standby,再把自己升级为active。当网络不通或者什么异常导致无法判断对方是不是真的挂了,此时不会把自己升级为active,这种情况出现的几率很低。(两台主机通过串口相连,这个连接可以当成可靠的)
HA模式下,SNN的角色被Standby替代了,不承担服务,滚动生成FsImage,并把生成的FsImage推回去,以便宕机后的快速恢复。
HDFS-Fedration解决方案(联邦机制)
联邦机制:各个联邦,属于同一个国家,统一一套资源
文章来源:https://www.toymoban.com/news/detail-784933.html
文章来源地址https://www.toymoban.com/news/detail-784933.html
到了这里,关于【Hadoop精讲】HDFS详解的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!