【Distributed】zookeeper+kafka的应用及部署

这篇具有很好参考价值的文章主要介绍了【Distributed】zookeeper+kafka的应用及部署。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。


一、zookeeper

1. zookeeper的概述

1.1 Zookeeper 定义

  ZooKeeper 是一个分布式的,开放源码的分布式应用程序协调服务,是 Google 的 Chubby 一个开源的实现,是 Hadoop 和 Hbase 的重要组件。

1.2 Zookeeper 工作机制

  Zookeeper 从设计模式角度来理解:是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册,一旦这些数据的状态发生变化,Zookeeper 就将负责通知已经在 Zookeeper 上注册的那些观察者做出相应的反应。也就是说 Zookeeper = 文件系统 + 通知机制 。

【Distributed】zookeeper+kafka的应用及部署,Distributed,zookeeper,kafka,分布式

1.3 Zookeeper 特点

  • Zookeeper 是由一个领导者( leader ),多个跟随者( follower )组成的集群。Leader 负责进行投票的发起和决议,更新系统状态; Follower 用于接收客户请求并向客户端返回结果,在选举 Leader 过程中参与投票
  • Zookeeper 集群中只要有半数以上节点存活, Zookeeper 集群就能正常服务。所以 Zookeeper 适合安装奇数台服务器。
  • 全局数据一致:每个 Server 保存一份相同的数据副本, Client 无论连接到哪个 Server ,数据都是一致的。
  • 更新请求顺序执行,来自同一个 Client 的更新请求按其发送顺序依次执行,即先进先出。
  • 数据更新原子性,一次数据更新要么成功,要么失败。
  • 实时性,在一定时间范围内, Client 能读到最新数据。

1.4 Zookeeper 数据结构

  ZooKeeper 数据模型的结构与 Unix 文件系统很类似,整体上可以看作是一棵树,每个节点称做一个 ZNode 。每一个 ZNode 默认能够存储 1MB 的数据,每个 ZNode 都可以通过其路径唯一标识。

【Distributed】zookeeper+kafka的应用及部署,Distributed,zookeeper,kafka,分布式

1.5 Zookeeper 应用场景

  提供的服务包括:统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。

统一命名服务

  在分布式环境下,经常需要对应用/服务进行统一命名,便于识别。

  • 类似于域名与 ip 之间对应关系, ip 不容易记住,而域名容易记住
  • 通过名称来获取资源或服务的地址,提供者等信息

统一配置管理

  分布式环境下,配置文件同步非常常见。一般要求一个集群中,所有节点的配置信息是一致的,比如Kafka集群。对配置文件修改后,希望能够快速同步到各个节点上。

  配置管理可交由 ZooKeeper 实现。可将配置信息写入 ZooKeeper 上的一个 Znode 。各个客户端服务器监听这个 Znode 。一旦 Znode 中的数据被修改,ZooKeeper 将通知各个客户端服务器。

统一集群管理

  分布式环境中,实时掌握每个节点的状态是必要的。可根据节点实时状态做出一些调整。

  ZooKeeper 可以实现实时监控节点状态变化。可将节点信息写入 ZooKeeper上的一个ZNode。监听这个ZNode可获取它的实时状态变化。

服务器动态上下线

  客户端能实时洞察到服务器上下线的变化。

软负载均衡

  在 Zookeeper 中记录每台服务器的访问数,让访问数最少的服务器去处理最新的客户端请求。

1.6 Zookeeper 选举机制

第一次启动选举机制

 (1)服务器1启动,发起一次选举。服务器1投自己一票。此时服务器1票数一票,不够半数以上(3票),选举无法完成,服务器1状态保持为LOOKING。

 (2)服务器2启动,再发起一次选举。服务器1和2分别投自己一票并交换选票信息:此时服务器1发现服务器2的myid比自己目前投票推举的(服务器1)大,更改选票为推举服务器2。此时服务器1票数0票,服务器2票数2票,没有半数以上结果,选举无法完成,服务器1,2状态保持LOOKING。

 (3)服务器3启动,发起一次选举。此时服务器1和2都会更改选票为服务器3。此次投票结果:服务器1为0票,服务器2为0票,服务器3为3票。此时服务器3的票数已经超过半数,服务器3当选Leader。服务器1,2更改状态为FOLLOWING,服务器3更改状态为LEADING。

 (4)服务器4启动,发起一次选举。此时服务器1,2,3已经不是LOOKING状态,不会更改选票信息。交换选票信息结果:服务器3为3票,服务器4为1票。此时服务器4服从多数,更改选票信息为服务器3,并更改状态为FOLLOWING。

 (5)服务器5启动,同服务器4一样当小弟。

【Distributed】zookeeper+kafka的应用及部署,Distributed,zookeeper,kafka,分布式

  总结:第一次选举会先比较服务器的 myid 大小,myid 大的就会选举它当 leader ,当票数过半的时后来的服务器则会直接选举票数最多的服务器为leader

非第一次启动选举机制

 (1)当ZooKeeper 集群中的一台服务器出现以下两种情况之一时,就会开始进入Leader选举:

  • 服务器初始化启动。
  • 服务器运行期间无法和Leader保持连接。

 (2)而当一台机器进入Leader选举流程时,当前集群也可能会处于以下两种状态:

  • 集群中本来就已经存在一个Leader。

  对于已经存在Leader的情况,机器试图去选举Leader时,会被告知当前服务器的Leader信息,对于该机器来说,仅仅需要和 Leader机器建立连接,并进行状态同步即可。

  • 集群中确实不存在Leader。

   假设ZooKeeper由5台服务器组成,SID分别为1、2、3、4、5,ZXID分别为8、8、8、7、7,并且此时SID为3的服务器是Leader。某一时刻,3和5服务器出现故障,因此开始进行Leader选举。

选举Leader规则
  • EPOCH大的直接胜出;

  • 如果EPOCH相同,事务id大的胜出;

  • 如果事务id相同,服务器id大的胜出。

SID:	服务器ID。用来唯一标识一台ZooKeeper集群中的机器,每台机器不能重复,和myid一致。

ZXID:	事务ID。ZXID是一个事务ID,用来标识一次服务器状态的变更。
	  	在某一时刻,集群中的每台机器的ZXID值不一定完全一致,这和ZooKeeper服务器对于客户端“更新请求”的处理逻辑速度有关。

Epoch:	每个Leader任期的代号。没有Leader时同一轮投票过程中的逻辑时钟值是相同的。每投完一次票这个数据就会增加

2. 部署 Zookeeper 集群

#准备 3 台服务器做 Zookeeper 集群
192.168.145.75
192.168.145.90
192.168.145.105

2.1 安装前准备

#关闭防火墙
systemctl stop firewalld
systemctl disable firewalld
setenforce 0

【Distributed】zookeeper+kafka的应用及部署,Distributed,zookeeper,kafka,分布式

#安装 JDK
yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel
java -version

【Distributed】zookeeper+kafka的应用及部署,Distributed,zookeeper,kafka,分布式

#下载安装包
官方下载地址:https://archive.apache.org/dist/zookeeper/

cd /opt/
wget https://archive.apache.org/dist/zookeeper/zookeeper-3.5.7/apache-zookeeper-3.5.7-bin.tar.gz

2.2 安装 Zookeeper

cd /opt/
tar xf apache-zookeeper-3.5.7-bin.tar.gz
mv apache-zookeeper-3.5.7-bin /usr/local/zookeeper-3.5.7

【Distributed】zookeeper+kafka的应用及部署,Distributed,zookeeper,kafka,分布式文章来源地址https://www.toymoban.com/news/detail-568347.html

#修改配置文件
cd /usr/local/zookeeper-

到了这里,关于【Distributed】zookeeper+kafka的应用及部署的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【Distributed】分布式监控系统zabbix应用(二)

    分担 server 的集中式压力; 解决多机房之间的网络延时问题。 结构:agent —— proxy —— server 2.1 设置 zabbix 的下载源,安装 zabbix-proxy 2.2 部署数据库   要求 MySQL 5.7 或 Mariadb 10.5 及以上版本 2.3 导入数据库信息 2.4 修改 zabbix-proxy 配置文件 2.5 启动 zabbix-proxy 2.6 在所有主机上

    2024年02月13日
    浏览(58)
  • 【Distributed】zookeeper+kafka的应用及部署

    1.1 Zookeeper 定义   ZooKeeper 是一个分布式的,开放源码的分布式应用程序协调服务,是 Google 的 Chubby 一个开源的实现,是 Hadoop 和 Hbase 的重要组件。 1.2 Zookeeper 工作机制   Zookeeper 从设计模式角度来理解:是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管

    2024年02月16日
    浏览(32)
  • 4、Zookeeper分布式安装部署

    1、分布式安装部署 1)集群规划 在hadoop102、hadoop103和hadoop104三个节点上部署Zookeeper。 服务器hadoop102 服务器hadoop103 服务器hadoop104 Zookeeper Zookeeper Zookeeper Zookeeper 2)解压安装 (1)解压Zookeeper安装包到/opt/module/目录下  (2)修改/opt/module/apache-zookeeper-3.5.7-bin名称为zookeeper 3)配

    2024年02月12日
    浏览(51)
  • Docker部署ZooKeeper分布式协调服务

    1、准备工作 2、创建TEST容器,将conf目录COPY出来,在映射进去,方便后续维护管理! 3、运行容器 4、测试链接zookeeper 正常输出内容:

    2024年02月07日
    浏览(47)
  • ZooKeeper分布式应用程序协调服务

    目录 一.ZooKeeper基本介绍 1.ZooKeeper是什么? 2.ZooKeeper的工作机制 3.ZooKeeper的特点 4.ZooKeeper的数据结构 5.ZooKeeper的应用场景 5.1 统一命名服务 5.2 统一配置管理 5.3 统一集群管理 5.4 服务器动态上下线 5.5 软负载均衡 二.ZooKeeper的选举机制 1.第一次启动选举机制 2.非第一次启动选举

    2023年04月19日
    浏览(67)
  • ZooKeeper分布式锁的实现与应用

    ZooKeeper是一种分布式应用程序协调服务,它可以管理大规模的集群,并提供可靠的、有序的、高效的数据通信。其中,ZooKeeper提供的分布式锁是一种常见的分布式锁实现,本文将对其进行详细介绍。 在分布式系统中,多个进程或节点可能需要同时访问共享资源。为了确保数据

    2024年02月02日
    浏览(42)
  • 分布式应用程序协调服务 ZooKeeper 详解

    目录 1、ZooKeeper简介 2、ZooKeeper的使用场景 3、ZooKeeper设计目的 4、ZooKeeper数据模型

    2024年02月08日
    浏览(62)
  • ZooKeeper的应用场景(命名服务、分布式协调通知)

    命名服务(NameService)也是分布式系统中比较常见的一类场景,在《Java网络高级编程》一书中提到,命名服务是分布式系统最基本的公共服务之一。在分布式系统中,被命名的实体通常可以是集群中的机器、提供的服务地址或远程对象等一这些我们都可以统称它们为名字(Name),

    2024年02月12日
    浏览(45)
  • SpringBoot~ dubbo + zookeeper实现分布式开发的应用

    配置服务名字, 注册中心地址, 扫描被注册的包 server.port=8081 #当前应用名字 dubbo.application.name=provider-server #注册中心地址 dubbo.registry.address=zookeeper://127.0.0.1:2181 #扫描指定包下服务 dubbo.scan.base-packages=com.demo.service 实现一个接口,在接口中完成需求 public interface Translate { String tran

    2024年04月10日
    浏览(53)
  • zookeeper应用场景之分布式的ID生成器

            在分布式系统中, 分布式ID生成器的使用场景非常之多 : 大量的数据记录,需要分布式ID。 大量的系统消息,需要分布式ID。 大量的请求日志,如restful的操作记录,需要唯一标识,以便进行后续的用户行为分析和调用链路分析。 分布式节点的命名服务,往往也

    2024年01月23日
    浏览(85)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包