Zookeeper初识
以下内容引用尚硅谷，如有侵权请联系删除
第一章 Zookeeper入门
1.1 概述
1.2 Zookeeper特点
1.3 Zookeeper数据结构
1.4 应用场景
提供的服务包括:统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。
统一命名服务
统一配置管理
统一集群管理
服务器动态上下线
软负载均衡
1.5 下载地址
官网首页
https://zookeeper.apache.org/
下载 Linux 环境安装的 tar 包
第二章 Zookeeper 本地安装
2.1 本地模式安装
1）安装前准备
（1）安装 JDK
（2）拷贝 apache-zookeeper-3.5.7-bin.tar.gz 安装包到 Linux 系统下
（3）解压到指定目录
（4）修改名称
2）配置修改
（1）将/zookeeper/zookeeper-3.5.7-bin/conf这个路径下的 zoo_sample.cfg 修改为 zoo.cfg
（2）打开 zoo.cfg 文件，修改 dataDir 路径
（3）在/zookeeper/zookeeper-3.5.7-bin/这个目录上创建 zkData 文件夹
3）操作 Zookeeper
（1）启动 Zookeeper
（2）查看进程是否启动
（3）查看状态
（4）启动客户端
./zkCli.sh
（5）退出客户端
（6）停止 Zookeeper
2.2 配置参数解读
1）tickTime = 2000：通信心跳时间，Zookeeper服务器与客户端心跳时间，单位毫秒
2）initLimit = 10：LF初始通信时限
Follower与Leader初始连接时的最大时长为10*tickTime
3）syncLimit = 5：LF同步通信时限
4）dataDir：保存Zookeeper中的数据
注意：默认的tmp目录，容易被Linux系统定期删除，所以一般不用默认的tmp目录
5）clientPort = 2181：客户端连接端口，通常不做修改
第三章 Zookeeper集群操作
3.1 集群操作
接着2.1，将原来的zookeeper文件夹改名，并复制，如下
为每个zookeeper设置myid文件
修改每个zookeeper的配置文件
分别启动zookeeper
查看状态
3.2 Zookeeper集群为什么是奇数
Zookeeper的大部分操作都是通过选举产生的。比如，标记一个写是否成功是要在超过一半节点发送写请求成功时才认为有效。同样，Zookeeper选择领导者节点也是在超过一半节点同意时才有效。最后，Zookeeper是否正常是要根据是否超过一半的节点正常才算正常。这是基于CAP的一致性原理。
zookeeper有这样一个特性：集群中只要有过半的机器是正常工作的，那么整个集群对外就是可用的。也就是说如果有2个zookeeper，那么只要有1个死了zookeeper就不能用了，因为1没有过半，所以2个zookeeper的死亡容忍度为0；同理，要是有3个zookeeper，一个死了，还剩下2个正常的，过半了，所以3个zookeeper的容忍度为1；同理你多列举几个：2->0;3->1;4->1;5->2;6->2会发现一个规律，2n和2n-1的容忍度是一样的，都是n-1，所以为了更加高效，何必增加那一个不必要的zookeeper呢
zookeeper的选举策略也是需要半数以上的节点同意才能当选leader，如果是偶数节点可能导致票数相同的情况
3.3 Zookeeper第一次启动选举机制
3.4 Zookeeper非第一次启动选举机制
3.5 ZK集群启动停止脚本
3.6 客户端命令行操作
命令行语法
znode节点数据信息
（1） czxid:创建节点的事务zxid
每次修改ZooKeeper状态都会产生一个ZooKeeper事务ID。事务ID是ZooKeeper中所有修改总的次序。每次修改都有唯一的zxid，如果zxidl小于zxid2，那么zxid1在zxid2之前发生
（2） ctime: znode被创建的毫秒数（从1970年开始)
（3） mzxid: znode最后更新的事务zxid
（4） mtime: znode最后修改的毫秒数（从1970年开始）
（5） pZxid: znode最后更新的子节点zxid
（6）cversion: znode子节点变化号，znode子节点修改次数
（7）dataversion: znode数据变化号
（8）aclVersion: znode访问控制列表的变化号
（9）ephemeralOwner:如果是临时节点，这个是znode拥有者的session id。如果不是临时节点则是0
（10）dataLength: znode的数据长度
（11） numChildren: znode子节点数量
节点类型
持久有序号、持久无序号
短暂有序号、短暂无序号
1)分别创建2个普通节点（永久节点＋不带序号)
注意：创建节点时，要赋值
2)获得节点的值
3)创建带序号的节点（永久节点+带序号）
先创建一个普通的根节点/sanguo/weiguo
创建带序号的节点
如果原来没有序号节点，序号从0开始依次递增。如果原节点下已有2个节点，则再排序时从2开始，以此类推
不同目录之间的需序号没有任何关系，例如/a/b与/a/c两个目录下的节点序号都是从0开始
4)创建短暂节点（短暂节点＋不带序号or带序号)
创建短暂的不带序号的节点
创建短暂的带序号的节点
在当前客户端是能查看到的
退出当前客户端然后再重启客户端，再次查看根目录下短暂节点已经删除
修改节点数据值
监听器原理
客户端注册监听它关心的目录节点，当目录节点发生变化（数据改变、节点删除、子目录节点增加删除)时，ZooKeeper会通知客户端。监听机制保证ZooKeeper保存的任何的数据的任何改变都能快速的响应到监听了该节点的应用程序。
1）节点的值变化监听
2）节点的子节点变化监听（路径变化）
（1）在hadoop104主机上注册监听/sanguo/节点的子节点的变化
节点删除与查看
3.7 客户端API操作
3.7.1 IDEA环境搭建
1）依赖
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<groupId>org.example</groupId>
<artifactId>zookeeper</artifactId>
<version>1.0-SNAPSHOT</version>
<dependencies>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>RELEASE</version>
</dependency>
<dependency>
<groupId>org.apache.logging.log4j</groupId>
<artifactId>log4j-core</artifactId>
<version>2.8.2</version>
</dependency>
<dependency>
<groupId>org.apache.zookeeper</groupId>
<artifactId>zookeeper</artifactId>
<version>3.5.7</version>
</dependency>
</dependencies>
</project>
2）log4j.properties
log4j.rootLogger=INFO, stdout
log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n
log4j.appender.logfile=org.apache.log4j.FileAppender
log4j.appender.logfile.File=target/spring.log
log4j.appender.logfile.layout=org.apache.log4j.PatternLayout
log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n
3.7.2 代码
package com.atguigu.zk;
import org.apache.zookeeper.CreateMode;
import org.apache.zookeeper.KeeperException;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.ZooDefs;
import org.apache.zookeeper.ZooKeeper;
import org.apache.zookeeper.data.Stat;
import org.junit.Before;
import org.junit.Test;
import java.io.IOException;
import java.util.List;
/**
* @Author ：
* @Date ：Created in 2022/4/14 9:41
* @Description：
*/
public class ZkClient {
/**
* 注意：逗号左右不能有空格
*/
private String connectString="192.168.1.11:2181,192.168.1.11:2182,192.168.1.11:2183";
/**
* 超时时间设置设置太短在执行create方法中可能报错，报错如下
* org.apache.zookeeper.KeeperException$ConnectionLossException: KeeperErrorCode = ConnectionLoss for /atguigu
*
* 可能原因：在创建节点过程中，与服务器连接时间超过了sessoinTimeout，所以自动断开，失去连接报错
*/
private int sessoinTimeout=250000000;
private ZooKeeper zkClient=null;
@Before
public void init() throws IOException {
zkClient = new ZooKeeper(connectString, sessoinTimeout, new Watcher() {
public void process(WatchedEvent watchedEvent) {
//收到事件通知后的回调函数（用户的业务逻辑）
System.out.println(watchedEvent.getType()+"--"+watchedEvent.getPath());
//再次启动监听
try {
List<String> children = zkClient.getChildren("/", true);
for (String child : children) {
System.out.println(child);
}
} catch (KeeperException e) {
e.printStackTrace();
} catch (InterruptedException e) {
e.printStackTrace();
}
}
});
}
/**
* 创建子节点
* @throws KeeperException
* @throws InterruptedException
*/
@Test
public void create() throws KeeperException, InterruptedException {
//参数 1：要创建的节点的路径；
//参数 2：节点数据 ；
//参数 3：节点权限 ；
//参数 4：节点的类型
String nodeCreated = zkClient.create("/atguigu", "ss.avi".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);
}
/**
* 获取子节点并监听节点变化
* @throws KeeperException
* @throws InterruptedException
*/
@Test
public void getChildren() throws KeeperException, InterruptedException {
List<String> children = zkClient.getChildren("/", true);
for (String child : children) {
System.out.println(child);
}
//延时堵塞
Thread.sleep(Long.MAX_VALUE);
}
/**
* 判断 Znode 是否存在
* @throws KeeperException
* @throws InterruptedException
*/
@Test
public void exist() throws KeeperException, InterruptedException {
Stat stat = zkClient.exists("/atguigu", false);
System.out.println(stat == null ? "not exist" : "exist");
}
}
3.7.3 代码过程中遇到问题参考网址
http://t.zoukankan.com/zjiacun-p-7654894.html
3.8 客户端向服务端写数据流程
第四章 服务器动态上下线监听案例
4.1 需求
某分布式系统中，主节点可以有多台，可以动态上下线，任意一台客户端都能实时感知到主节点服务器的上下线。
4.2 需求分析
4.3 具体实现
（1）先在集群上创建/servers 节点
（2）在 Idea 中创建包名：com.atguigu.zkcase1
（3）服务器端向 Zookeeper 注册代码
package com.atguigu.zkcase1;
import org.apache.zookeeper.CreateMode;
import org.apache.zookeeper.KeeperException;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.ZooDefs;
import org.apache.zookeeper.ZooKeeper;
import java.io.IOException;
/**
* @Author ：
* @Date ：Created in 2022/4/16 17:18
* @Description：
*/
public class DistributeServer {
/**
* 注意：逗号左右不能有空格
*/
private String connectString="192.168.1.11:2181,192.168.1.11:2182,192.168.1.11:2183";
/**
* 超时时间设置设置太短在执行create方法中可能报错，报错如下
* org.apache.zookeeper.KeeperException$ConnectionLossException: KeeperErrorCode = ConnectionLoss for /atguigu
*
* 可能原因：在创建节点过程中，与服务器连接时间超过了sessoinTimeout，所以自动断开，失去连接报错
*/
private int sessoinTimeout=250000000;
private ZooKeeper zk =null;
private String parentNode = "/servers";
//创建到 zk 的客户端连接
public void getConnect() throws IOException {
zk =new ZooKeeper(connectString, sessoinTimeout, new Watcher() {
public void process(WatchedEvent watchedEvent) {
}
});
}
//注册服务器
public void registServer(String hostname) throws KeeperException, InterruptedException {
String create = zk.create(parentNode + "/server", hostname.getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);
System.out.println(hostname + " is online " + create);
}
//业务功能
public void business(String hostname) throws InterruptedException {
System.out.println(hostname + " is working ...");
Thread.sleep(Long.MAX_VALUE);
}
public static void main(String[] args) throws IOException, KeeperException, InterruptedException {
//1.获取zk连接
DistributeServer server = new DistributeServer();
server.getConnect();
//2.利用zk连接注册服务器信息
server.registServer(args[0]);
//3.启动业务功能
server.business(args[0]);
}
}
（3）客户端代码
package com.atguigu.zkcase1;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.ZooKeeper;
import java.io.IOException;
import java.util.ArrayList;
import java.util.List;
/**
* @Author ：
* @Date ：Created in 2022/4/16 17:36
* @Description：
*/
public class DistributeClient {
/**
* 注意：逗号左右不能有空格
*/
private String connectString="192.168.1.11:2181,192.168.1.11:2182,192.168.1.11:2183";
/**
* 超时时间设置设置太短在执行create方法中可能报错，报错如下
* org.apache.zookeeper.KeeperException$ConnectionLossException: KeeperErrorCode = ConnectionLoss for /atguigu
*
* 可能原因：在创建节点过程中，与服务器连接时间超过了sessoinTimeout，所以自动断开，失去连接报错
*/
private int sessoinTimeout=250000000;
private ZooKeeper zk =null;
private String parentNode = "/servers";
//创建到 zk 的客户端连接
public void getConnect() throws IOException {
zk=new ZooKeeper(connectString, sessoinTimeout, new Watcher() {
public void process(WatchedEvent watchedEvent) {
// 再次启动监听
try {
getServerList();
} catch (Exception e) {
e.printStackTrace();
}
}
});
}
//获取服务器列表信息
public void getServerList() throws Exception{
// 1 获取服务器子节点信息，并且对父节点进行监听
List<String> children = zk.getChildren(parentNode, true);
// 2 存储服务器信息列表
ArrayList<String> servers = new ArrayList<String>();
// 3 遍历所有节点，获取节点中的主机名称信息
for (String child : children) {
byte[] data = zk.getData(parentNode + "/" + child,
false, null);
servers.add(new String(data));
}
// 4 打印服务器列表信息
System.out.println(servers);
}
// 业务功能
public void business() throws Exception{
System.out.println("client is working ...");
Thread.sleep(Long.MAX_VALUE);
}
public static void main(String[] args) throws Exception {
// 1 获取 zk 连接
DistributeClient client = new DistributeClient();
client.getConnect();
// 2 获取 servers 的子节点信息，从中获取服务器信息列表
client.getServerList();
// 3 业务进程启动
client.business();
}
}
4.4 测试
第五章 ZooKeeper 分布式锁案例
什么叫做分布式锁？
比如说"进程1"在使用该资源的时候，会先去获得锁，"进程1"获得锁以后会对该资源保持独占，这样其他进程就无法访问该资源，"进程1"用完该资源以后就将锁释放掉，让其他进程来获得锁，那么通过这个锁机制，我们就能保证了分布式系统中多个进程能够有序的访问该临界资源。那么我们把这个分布式环境下的这个锁叫作分布式锁。
5.1 原生 Zookeeper 实现分布式锁案例
1）分布式锁实现
package com.atguigu.zkcase2;
import org.apache.zookeeper.CreateMode;
import org.apache.zookeeper.KeeperException;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.ZooDefs;
import org.apache.zookeeper.ZooKeeper;
import org.apache.zookeeper.data.Stat;
import java.io.IOException;
import java.util.Collections;
import java.util.List;
import java.util.concurrent.CountDownLatch;
/**
* @Author ：
* @Date ：Created in 2022/4/17 11:28
* @Description：
*/
public class DistributedLock {
private String connectString="192.168.1.11:2181,192.168.1.11:2182,192.168.1.11:2183";
private int sessoinTimeout=250000000;
private ZooKeeper zk=null;
private CountDownLatch connectLatch =new CountDownLatch(1);
private CountDownLatch waitLatch=new CountDownLatch(1);
private String waitPath;
private String currentMode;
public DistributedLock() throws IOException, InterruptedException, KeeperException {
//获取连接
zk = new ZooKeeper(connectString, sessoinTimeout, new Watcher() {
public void process(WatchedEvent watchedEvent) {
//connectLatch 如何连接上zk 可以释放锁
if (watchedEvent.getState()==Event.KeeperState.SyncConnected) {
connectLatch.countDown();
}
//waitLatch 需要释放锁
if (watchedEvent.getType() == Event.EventType.NodeDeleted && watchedEvent.getPath().equals(waitPath)) {
waitLatch.countDown();
}
}
});
//等待zk正常连接后，往下走程序
connectLatch.await();
//判断根节点/locks是否存在
Stat stat = zk.exists("/locks", false);
if (stat==null) {
//创建一下根节点
zk.create("/locks","locks".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);
}
}
//对zk加锁
public void zkLock() {
try {
//创建对应的临时带序号节点
currentMode = zk.create("/locks/" + "seq-", null, ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);
//判断创建的节点是否是最小的序号节点，如果是获取到锁；如果不是，监听它序号前一个节点
List<String> children = zk.getChildren("/locks", false);
//如果children只有一个值，那就直接获取锁，如果有多个节点，需要判断谁最小
if (children.size()==1) {
return ;
}else{
Collections.sort(children);
//获取节点名称
String thisNode = currentMode.substring("/locks/".length());
//通过seq-00000000获取该节点在children集合的位置
int index = children.indexOf(thisNode);
//判断
if (index==-1) {
System.out.println("数据异常");
} else if (index == 0) {
//就一个节点，可以获取锁了
return ;
}else{
//需要监听 它前一个节点变化
waitPath="/locks/"+children.get(index-1);
zk.getData(waitPath,true,new Stat());
//等待监听
waitLatch.await();
return;
}
}
} catch (KeeperException e) {
e.printStackTrace();
} catch (InterruptedException e) {
e.printStackTrace();
}
}
//解锁
public void unZkLock() {
try {
//删除节点
zk.delete(currentMode,-1);
} catch (InterruptedException e) {
e.printStackTrace();
} catch (KeeperException e) {
e.printStackTrace();
}
}
}
2）分布式锁测试
（1）创建两个线程
package com.atguigu.zkcase2;
import org.apache.zookeeper.KeeperException;
import java.io.IOException;
/**
* @Author ：
* @Date ：Created in 2022/4/19 14:21
* @Description：
*/
public class DistributedLockTest {
public static void main(String[] args) throws InterruptedException, IOException, KeeperException {
final DistributedLock lock1 = new DistributedLock();
final DistributedLock lock2 = new DistributedLock();
new Thread(new Runnable() {
public void run() {
try {
lock1.zkLock();
System.out.println("线程1 启动 获取到锁");
Thread.sleep(5*1000);
lock1.unZkLock();
System.out.println("线程1 释放锁");
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}).start();
new Thread(new Runnable() {
public void run() {
try {
lock2.zkLock();
System.out.println("线程2 启动 获取到锁");
Thread.sleep(5*1000);
lock2.unZkLock();
System.out.println("线程2 释放锁");
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}).start();
}
}
（2）观察控制台变化：
5.2 Curator 框架实现分布式锁案例
1）原生的 Java API 开发存在的问题
（1）会话连接是异步的，需要自己去处理。比如使用 CountDownLatch
（2）Watch 需要重复注册，不然就不能生效
（3）开发的复杂性还是比较高的
（4）不支持多节点删除和创建。需要自己去递归
2）Curator 是一个专门解决分布式锁的框架，解决了原生 JavaAPI 开发分布式遇到的问题。
详情请查看官方文档：https://curator.apache.org/index.html
3）Curator 案例实操
（1）添加依赖
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>4.3.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-recipes</artifactId>
<version>4.3.0</version>
</dependency>
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-client</artifactId>
<version>4.3.0</version>
</dependency>
（2）代码实现
package com.atguigu.zkcase3;
import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.framework.CuratorFrameworkFactory;
import org.apache.curator.framework.recipes.locks.InterProcessMutex;
import org.apache.curator.retry.ExponentialBackoffRetry;
/**
* @Author ：
* @Date ：Created in 2022/4/20 9:36
* @Description：
*/
public class CuratorLockTest {
public static void main(String[] args) {
//创建分布式锁1
final InterProcessMutex lock1 = new InterProcessMutex(getCuratorFramework(), "/locks");
//创建分布式锁2
final InterProcessMutex lock2 = new InterProcessMutex(getCuratorFramework(), "/locks");
new Thread(new Runnable() {
public void run() {
try {
lock1.acquire();
System.out.println("线程1 获取到锁");
lock1.acquire();
System.out.println("线程1 再次获取到锁");
Thread.sleep(5*1000);
lock1.release();
System.out.println("线程1 释放锁");
lock1.release();
System.out.println("线程1 再次释放锁");
} catch (Exception e) {
e.printStackTrace();
}
}
}).start();
new Thread(new Runnable() {
public void run() {
try {
lock2.acquire();
System.out.println("线程2 获取到锁");
lock2.acquire();
System.out.println("线程2 再次获取到锁");
Thread.sleep(5*1000);
lock2.release();
System.out.println("线程2 释放锁");
lock1.release();
System.out.println("线程2 再次释放锁");
} catch (Exception e) {
e.printStackTrace();
}
}
}).start();
}
private static CuratorFramework getCuratorFramework() {
ExponentialBackoffRetry policy = new ExponentialBackoffRetry(3000, 3);
CuratorFramework client = CuratorFrameworkFactory.builder().connectString("192.168.1.11:2181,192.168.1.11:2182,192.168.1.11:2183")
.connectionTimeoutMs(250000000)
.sessionTimeoutMs(250000000)
.retryPolicy(policy).build();
//启动客户端
client.start();
System.out.println("zookeeper 启动成功");
return client;
}
}
第六章 企业面试真题（面试重点）
6.1 选举机制
半数机制，超过半数的投票通过，即通过。
（1）第一次启动选举规则--投票过半数时，服务器id打的胜出
（2）第二次启动选举规则
a、EPOCH大的直接胜出
b、EPOCH相同，事务id大的胜出
c、事务id相同，服务器id大的胜出
6.2 生产集群安装多少 zk 合适？
6.3 常用命令
ls
get
create
delete
浙公网安备 33010602011771号