Zookeeper介绍
什么是Zookeeper
ZooKeeper 是⼀种分布式协调组件
,用于管理大型主机。在分布式环境中协调和管理服务是一个复杂的过程。ZooKeeper 通过其简单的架构和 API 解决了这个问题。ZooKeeper 允许开发人员专注于核心应用程序逻辑,而不必担心应用程序的分布式特性。
Zookeeper的应用场景
- 分布式协调组件
在分布式系统中,需要有zookeeper作为分布式协调组件,协调分布式系统中的状态。
- 分布式锁
zk在实现分布式锁上,可以做到强⼀致性,分布式锁相关的知识,在后续的ZAB协议中介绍。
- 无状态化实现
zookeeper可以保存登录信息,保证分布式登录系统多个系统无需重复登录。
搭建Zookeeper服务器
安装启动
zk由Java编写,安装依赖Java环境
-
上传zookeeper压缩包
-
解压缩
tar -zxvf apache-zookeeper-3.7.1-bin.tar.gz
zk目录结构:
- 启动zookeeper,conf文件夹中需要
zoo.cfg
文件
zoo_sample.cfg配置文件说明:
# zookeeper时间配置中的基本单位 (毫秒)
tickTime=2000
# 允许follower初始化连接到leader最⼤时⻓,它表示tickTime时间倍数即:initLimit*tickTime
initLimit=10
# 允许follower与leader数据同步最⼤时⻓,它表示tickTime时间倍数
syncLimit=5
#zookeper 数据存储⽬录及⽇志保存⽬录(如果没有指明dataLogDir,则⽇志也保存在这个⽂件中)
dataDir=/tmp/zookeeper
#对客户端提供的端⼝号
clientPort=2181
#单个客户端与zookeeper最⼤并发连接数
maxClientCnxns=60
# 保存的数据快照数量,之外的将会被清除
autopurge.snapRetainCount=3
#⾃动触发清除任务时间间隔,⼩时为单位。默认为0,表示不⾃动清除。
autopurge.purgeInterval=1
稍作修改,然后重命名为zoo.cfg
mv zoo_sample.cfg zoo.cfg
Zookeeper服务器的操作命令
- 启动zk服务器(指定配置文件)
./zkServer.sh start ../conf/zoo.cfg
- 重启zk服务器
./zkServer.sh restart ../conf/zoo.cfg
- 查看zk服务器状态
./zkServer.sh status ../conf/zoo.cfg
- 停止zk服务器
./zkServer.sh stop ../conf/zoo.cfg
Zookeeper内部的数据模型
zk是如何保存数据的
zk中的数据是保存在节点上的,节点就是znode
,多个znode之间构成⼀颗树的⽬录结构
(类似Linux目录结构)。
顶层目录为/
树是由节点所组成,Zookeeper的数据存储也同样是基于节点,这种节点叫做 Znode
不同于树的节点,Znode 的引用方式是路径引用,类似于⽂件路径:
/service/org-service
这样的层级结构,让每⼀个 Znode 节点拥有唯⼀的路径,就像命名空间⼀样对不同信息作出清晰的隔离。
zk中的znode结构
zk中的znode,包含了四个部分:
- data:保存数据
- acl:权限,定义了什么样的用户能够操作这个节点,且能够进行怎样的操作。
- c:create 创建权限,允许在该节点下创建⼦节点
- w:write 更新权限,允许更新该节点的数据
- r:read 读取权限,允许读取该节点的内容以及⼦节点的列表信息
- d:delete 删除权限,允许删除该节点的⼦节点
- a:admin 管理者权限,允许对该节点进⾏acl权限设置
- stat:描述当前znode的元数据
- child:当前节点的⼦节点
zk中节点znode类型
创建节点命令:(不同参数代表不同类型znode)
-
持久节点
: 创建出的节点,在会话结束后依然存在。保存数据(默认) -
持久顺序节点
: 创建出的节点,根据先后顺序,会在节点之后带上⼀个数值,越后执行数值越⼤,适用于分布式锁的应用场景- 单调递增(-s) -
临时节点
: 临时节点是在会话结束后,自动被删除的,通过这个特性,zk可以实现服务注册与发现的效果。(-e)
如何维持心跳?
-
临时顺序节点
:跟持久序号节点相同,适⽤于临时的分布式锁。(-es) -
Container节点
(3.5.3版本新增):Container容器节点,当容器中没有任何子节点,该容器节点会被zk定期删除(60s)。(-c) -
TTL节点
:可以指定节点的到期时间,到期后被zk定时删除。只能通过系统配置 zookeeper.extendedTypesEnabled=true 开启(-t)【不稳定,了解即可】
zk的数据持久化
zk的数据是运行在内存中,zk提供了两种持久化机制:
- 事务日志
zk把执行的命令以日志形式保存在dataLogDir指定的路径中的文件中
(如果没有指定 dataLogDir,则按dataDir指定的路径)。
- 数据快照
zk会在⼀定的时间间隔内做⼀次内存数据的快照,把该时刻的内存数据保存在快照⽂件中
。
【默认两种都是开启的】
zk通过两种形式的持久化,在恢复时先恢复快照文件中的数据到内存中,再用日志文件中的数据做增量恢复,这样的恢复速度更快。
Zookeeper客户端(zkCli)的使用
启动客户端
启动客户端:./zkCli.sh -server ip:port(如果连接本地Zookeeper,ip:port可省略)
./zkCli.sh
退出客户端
quit
常用命令
-
ls / (查看znode目录结构)
-
help (帮助命令)
-
创建Znode(不同参数对应不同类型节点)【不加参数,默认持久节点】
-
存取设置数据
- create /test abc (存)
- get /test (取)
- set /test abc (设置数据)
-
普通查询
get /test
ls /
ls /test (-R参数 递归查询)
-
查看节点详细信息
get -s /test (-s参数)
- cZxid: 创建节点的事务ID
- mZxid:修改节点的事务ID
- pZxid:添加和删除⼦节点的事务ID
- ctime:节点创建的时间
- mtime: 节点最近修改的时间
- dataVersion: 节点内数据的版本,每更新⼀次数据,版本会+1
- aclVersion: 此节点的权限版本
- ephemeralOwner: 如果当前节点是临时节点,该值是当前节点所有者的session id。如果节点不是临时节点,则该值为零。 dataLength: 节点内数据的长度
- numChildren: 该节点的节点个数
-
删除节点
1、普通删除
节点不为空时,直接用delete无法删除,此时可以用deleteall进行删除
2、乐观锁删除 (-v 参数)
需要与节点详细信息dataVersion对应,否则无法删除
-
权限设置
- 注册当前会话的账号和密码
addauth digest xiaowang:123456
- 创建节点并设置权限
create /test-node abcd auth:xiaowang:123456:cdwra
在另⼀个会话中必须先使用账号密码(步骤一),才能拥有操作该节点的权限
Curator客户端的使用
Curator介绍
Curator是Netflix公司开源的⼀套zookeeper客户端框架,Curator是对Zookeeper支持最好的客户端框架。Curator封装了⼤部分Zookeeper的功能,比如Leader选举、分布式锁等,减少了技术人员在使用Zookeeper时的底层细节开发⼯作。
引入Curator
- 引入依赖
<!--Curator-->
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>2.12.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-recipes</artifactId>
<version>2.12.0</version>
</dependency>
<!--Zookeeper-->
<dependency>
<groupId>org.apache.zookeeper</groupId>
<artifactId>zookeeper</artifactId>
<version>3.7.14</version>
</dependency>
- 配置文件
curator:
retryCount: 5
elapsedTimeMs: 5000
connectString: 124.222.253.33:2181
sessionTimeoutMs: 60000
connectionTimeoutM: 5000
- 注入配置Bean
@Data
@Component
@ConfigurationProperties(prefix = "curator")
public class WrapperZK {
private int retryCount;
private int elapsedTimeMs;
private String connectString;
private int sessionTimeoutMs;
private int connectionTimeoutMs;
}
- 注⼊CuratorFramework
@Configuration
public class CuratorConfig {
@Autowired
WrapperZK wrapperZk;
@Bean(initMethod = "start")
public CuratorFramework curatorFramework() {
return CuratorFrameworkFactory.newClient(
wrapperZk.getConnectString(),
wrapperZk.getSessionTimeoutMs(),
wrapperZk.getConnectionTimeoutMs(),
new RetryNTimes(wrapperZk.getRetryCount(), wrapperZk.getElapsedTimeMs()));
}
}
创建节点
@Autowired
CuratorFramework curatorFramework;
@Test
void createNode() throws Exception {
// 添加持久节点
String path = curatorFramework.create().forPath("/curator-node");
// 添加临时序号节点
String path1 = curatorFramework.create().withMode(CreateMode.EPHEMERAL_SEQUENTIAL).forPath("/curator-node", "some-data".getBytes());
System.out.printf("curator create node :%s successfully.%n", path);
System.in.read();
}
获得节点数据
@Test
public void testGetData() throws Exception {
byte[] bytes = curatorFramework.getData().forPath("/curator-node");
System.out.println(new String(bytes));
}
修改节点数据
@Test
public void testSetData() throws Exception {
curatorFramework.setData().forPath("/curator-node", "changed!".getBytes());
byte[] bytes = curatorFramework.getData().forPath("/curator-node");
System.out.println(new String(bytes));
}
创建节点同时创建父节点
@Test
public void testCreateWithParent() throws Exception {
String pathWithParent = "/node-parent/sub-node-1";
String path = curatorFramework.create().creatingParentsIfNeeded().forPath(pathWithParent);
System.out.printf("curator create node :%s successfully.%n", path);
}
删除节点
@Test
public void testDelete() throws Exception {
String pathWithParent = "/node-parent";
curatorFramework.delete().guaranteed().deletingChildrenIfNeeded().forPath(pathWithParent);
}
zk实现分布式锁
zk中锁的分类
- 读锁:大家都可以读,要想上读锁的前提是,之前的锁没有写锁 【
读锁共享
】 - 写锁:只有得到写锁的才能写。要想上写锁的前提是,之前没有任何锁。 【
写锁独占
】
zk如何上读锁
- 创建⼀个临时序号节点,节点的数据是read,表示是读锁
- 获取当前zk中序号比自己小的所有节点
-
判断最小节点是否是读锁:
- 如果不是读锁的话,则上锁失败,为最小节点设置监听。阻塞等待,zk的watch机制会当最小节点发⽣变化时通知当前节点,于是再执行第⼆步的流程
- 如果是读锁的话,则上锁成功
zk如何上写锁
- 创建⼀个临时序号节点,节点的数据是write,表示是写锁
- 获取zk中所有的子节点
-
判断自己是否是最小的节点:
- 如果是,则上写锁成功
- 如果不是,说明前面还有锁,则上锁失败,监听最小的节点,如果最小节点有变化, 则回到第⼆步。
羊群效应
如果用上述的上锁方式,只要有节点发⽣变化,就会触发其他节点的监听事件,这样的话对 zk的压力⾮常⼤,——羊群效应。可以调整成链式监听
。解决这个问题。
监听当前节点的上一个节点即可。
curator实现读写锁
1)获取读锁
@Autowired
private CuratorFramework client;
@Test
void testGetReadLock() throws Exception {
// 读写锁
InterProcessReadWriteLock interProcessReadWriteLock = new InterProcessReadWriteLock(client, "/lock1");
// 获取读锁对象
InterProcessLock interProcessLock = interProcessReadWriteLock.readLock();
System.out.println("等待获取读锁对象!");
// 获取锁
interProcessLock.acquire();
for (int i = 1; i <= 100; i++) {
Thread.sleep(3000);
System.out.println(i);
}
// 释放锁
interProcessLock.release();
System.out.println("等待释放锁!");
}
2)获取写锁
@Test
void testGetWriteLock() throws Exception {
// 读写锁
InterProcessReadWriteLock interProcessReadWriteLock = new InterProcessReadWriteLock(client, "/lock1");
// 获取写锁对象
InterProcessLock interProcessLock = interProcessReadWriteLock.writeLock();
System.out.println("等待获取写锁对象!");
// 获取锁
interProcessLock.acquire();
for (int i = 1; i <= 100; i++) {
Thread.sleep(3000);
System.out.println(i);
}
// 释放锁
interProcessLock.release();
System.out.println("等待释放锁!");
}
zk的watch机制
Watch机制介绍
可以把 Watch 理解成是注册在特定 Znode 上的触发器。当这个 Znode 发⽣改变,也就是调用了 create ,delete ,setData 方法的时候,将会触发 Znode 上注册的对应事件, 请求 Watch 的客户端会接收到异步通知。
客户端使用了NIO通信模式监听服务端的调用。
zkCli客户端使用watch
create /test xxx
get -w /test ⼀次性监听节点
ls -w /test 监听目录,创建和删除子节点会收到通知。子节点中新增节点不会收到通知
ls -R -w /test 对于子节点中子节点的变化,但内容的变化不会收到通知
get
-w
/test 监听节点 监听是一次性的(监听当前节点内容变化,无法监听子节点),每次获取数据时都带-w参数可以实现持续监听节点ls
/w
/test 监听节点目录变化,可以监听子节点(一级子节点)加上-R
参数可以递归监听所有子节点
curator客户端使用watch
@Test
public void addNodeListener() throws Exception {
NodeCache nodeCache = new NodeCache(curatorFramework, "/curator-node");
nodeCache.getListenable().addListener(new NodeCacheListener() {
@Override
public void nodeChanged() throws Exception {
log.info("{} path nodeChanged: ", "/curator-node");
printNodeData();
}
});
nodeCache.start();
System.in.read();
}
public void printNodeData() throws Exception {
byte[] bytes = curatorFramework.getData().forPath("/curator-node");
log.info("data: {}", new String(bytes));
}
Zookeeper集群实战
Zookeeper集群角色
zookeeper集群中的节点有三种角色
- Leader:处理集群的所有事务请求(可读可写),集群中只有⼀个Leader。
- Follower:只能处理读请求,参与Leader选举。
- Observer:只能处理读请求,提升集群读的性能,但不能参与Leader选举。
集群搭建
搭建4个节点,其中⼀个节点为Observer
1)创建4个节点的myid,并设值
在/usr/local/zookeeper中创建以下四个文件
/usr/local/zookeeper/data/zk1# echo 1 > myid
/usr/local/zookeeper/data/zk2# echo 2 > myid
/usr/local/zookeeper/data/zk3# echo 3 > myid
/usr/local/zookeeper/data/zk4# echo 4 > myid
2)编写4个zoo.cfg
# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
syncLimit=5
# 修改对应的zk1 zk2 zk3 zk4
dataDir=/usr/local/zookeeper/data/zk1
# 修改对应的端⼝ 2181 2182 2183 2184
clientPort=2181
# 2001为集群通信端⼝,3001为集群选举端⼝,observer表示不参与集群选举
server.1=124.222.253.33:2001:3001
server.2=124.222.253.33:2002:3002
server.3=124.222.253.33:2003:3003
server.4=124.222.253.33:2004:3004:observer
# 上述配置,启动zk时,无法监听端口,可以加下面一行配置解决 (监听所有网卡)
quorumListenOnAllIPs=true
3)启动4台Zookeeper
./bin/zkServer.sh start ../conf/zoo1.cfg
./bin/zkServer.sh start ../conf/zoo2.cfg
./bin/zkServer.sh start ../conf/zoo3.cfg
./bin/zkServer.sh start ../conf/zoo4.cfg
查看集群状态
./bin/zkServer.sh status ../conf/zoo1.cfg
./bin/zkServer.sh status ../conf/zoo2.cfg
./bin/zkServer.sh status ../conf/zoo3.cfg
./bin/zkServer.sh status ../conf/zoo4.cfg
连接Zookeeper集群
./bin/zkCli.sh -server 124.222.253.33:2181,124.222.253.33:2182,124.222.253.33:2183,124.222.253.33:2184
ZAB协议
什么是ZAB协议
zookeeper作为非常重要的分布式协调组件,需要进行集群部署,集群中会以⼀主多从的形式进行部署。zookeeper为了保证数据的⼀致性,使用了ZAB(Zookeeper Atomic Broadcast 原子消息广播)协议,这个协议解决了Zookeeper的崩溃恢复和主从数据同步
的问题。
ZAB协议定义的四种节点状态
- Looking :选举状态。
- Following :Follower 节点(从节点)所处的状态。
- Leading :Leader 节点(主节点)所处状态。
- Observing:观察者节点所处的状态。
集群上线时的Leader选举过程
Zookeeper集群中的节点在上线时,将会进⼊到Looking状态,也就是选举Leader的状态,具体过程如下:
选票格式
myid | zXid
myid:myid文件配置数字
zXid:事务id,记录节点数据变化次数(增删改操作)
崩溃恢复时的Leader选举
Leader建立完后,Leader周期性地不断向Follower发送心跳(ping命令,没有内容的 socket)。当Leader崩溃后,Follower发现socket通道已关闭,于是Follower开始进⼊到 Looking状态,重新回到上⼀节中的Leader选举过程,Leader选举期间集群不能对外提供服务。
主从服务器之间的数据同步
一定是主节点写数据,client连接到从节点也是发给主节点写数据
半数以上
【相对于集群数量】(说明集群网络是没问题的)为了提高集群写数据的性能
Zookeeper中的NIO与BIO的应用
-
NIO
- 用于被客户端连接的2181端口,使用的是NIO模式与客户端建立连接
- 客户端开启Watch时,也使用NIO,等待Zookeeper服务器的回调
-
BIO
- 集群在选举时,多个节点之间的投票通信端口,使用BIO进行通信
- 心跳机制
CAP理论
CAP 定理
2000 年 7月,加州大学伯克利分校的 Eric Brewer 教授在 ACM PODC 会议上提出 CAP 猜想。2年后,麻省理⼯学院的 Seth Gilbert 和 Nancy Lynch 从理论上证明了 CAP。之后, CAP理论正式成为分布式计算领域的公认定理。
CAP 理论为:⼀个分布式系统最多只能同时满足一致性(Consistency)、可⽤性 (Availability)和分区容错性(Partition tolerance)这三项中的两项
。
- 一致性(Consistency)【数据一致】
⼀致性指 “all nodes see the same data at the same time”,即更新操作成功并返回客户端完成后,所有节点在同⼀时间的数据完全⼀致。
- 可用性(Availability)【服务可用】
可用性指“Reads and writes always succeed”,即服务⼀直可用,而且是正常响应时间。
- 分区容错性(Partition tolerance)【分布式系统必须满足】
分区容错性指“the system continues to operate despite arbitrary message loss or failure of part of the system”,即分布式系统在遇到某节点或网络分区故障的时候,仍然能够对外提供满足⼀致性或可⽤性的服务。——避免单点故障,就要进行冗余部署,冗余部署相当于是服务的分区,这样的分区就具备了容错性。
CAP 权衡
通过 CAP 理论,我们知道⽆法同时满足⼀致性、可用性和分区容错性这三个特性,那要舍弃哪个呢?
对于多数大型互联网应用的场景,主机众多、部署分散,而且现在的集群规模越来越大,所以节点故障、网络故障是常态,而且要保证服务可用性达到 N 个 9,即保证 P 和 A,舍弃 C(退而求其次保证最终⼀致性)。虽然某些地方会影响客户体验,但没达到造成用户流失的严重程度。
对于涉及到钱财这样不能有⼀丝让步的场景,C 必须保证。网络发生故障宁可停止服务,这是保证 CA,舍弃 P。还有⼀种是保证 CP,舍弃 A。例如网络故障是只读不写。
孰优孰略,没有定论,只能根据场景定夺,适合的才是最好的!
BASE 理论
eBay 的架构师 Dan Pritchett 源于对大规模分布式系统的实践总结,在 ACM 上发表⽂章提出 BASE 理论,BASE 理论是对 CAP 理论的延伸,核心思想是即使无法做到强⼀致性(Strong Consistency,CAP 的⼀致性就是强⼀致性),但应用可以采用适合的方式达到最终⼀致性 (Eventual Consitency)。
-
基本可用(Basically Available)
BA
基本可用指分布式系统在出现故障的时候,允许损失部分可用性,即保证核心可用。
电商大促时,为了应对访问量激增,部分用户可能会被引导到降级页面,服务层也可能只提供降级服务。这就是损失部分可用性的体现。
-
软状态(Soft State)
S
软状态是指允许系统存在中间状态,而该中间状态不会影响系统整体可⽤性。分布式存储中⼀般⼀份数据至少会有三个副本,允许不同节点间副本同步的延时就是软状态的体现。mysql replication 的异步复制也是⼀种体现。
-
最终一致性(Eventual Consistency)
E
最终⼀致性是指系统中的所有数据副本经过⼀定时间后,最终能够达到⼀致的状态。弱⼀致性和强⼀致性相反,最终⼀致性是弱⼀致性的⼀种特殊情况。
Zookeeper追求的一致性
Zookeeper在数据同步时,追求的并不是强⼀致性,而是顺序⼀致性(事务id的单调递增)。
zk追求CP原则,但也不是强一致性(集群半数以上ACK),而是顺序一致性。文章来源:https://www.toymoban.com/news/detail-637354.html
Curator客户端相关代码:https://github.com/lkl778/zk.git文章来源地址https://www.toymoban.com/news/detail-637354.html
到了这里,关于分布式协调组件Zookeeper的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!