分布式锁——zk实现

2024-05-10 11:38
文章标签 实现 分布式 zk

本文主要是介绍分布式锁——zk实现,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1 zk分布式锁原理

(参考:https://blog.csdn.net/xuefeng0707/article/details/80588855)

zk使用临时顺序节点+Watch机制实现分布式锁:

加锁:创建临时顺序节点,如果该节点是最小节点则获取到锁,否则对上一个临时节点注册监听

解锁:删除节点。

下面我们详细分析下加锁和解锁的过程,暂不考虑可重入性和锁超时,参考了curator源码。

1.1 加锁

过程1:创建临时顺序节点

举例子说明吧,在下面将要用到的例子中,我们会在“/lock/test/testZkLock/”目录下创建临时顺序子节点,子节点的名字不需要我们去命名,curator框架会自动命名为“lock-”,创建完临时顺序节点之后我们能看到这样的结构:

如果是多个进程或者线程竞争锁资源,就会在“/lock/test/testZkLock/”目录下依次创建临时顺序节点,在一次运行中我们启动3个线程,看到创建了3个临时节点:

过程2:竞争锁

在这个过程中会判断当前线程创建的临时顺序节点是不是序号最小的那个,如果是则获取到锁、继续执行后面的任务,否则的话对比当前序号小的节点注册监听。举例说明,假设在某一瞬间,某一共享资源下创建的临时节点是这样的:

lock_001
lock_002
lock_003

那么在加锁时,lock_001的线程可以获取到锁,lock_002在lock_001上注册Watch监听,然后wait()进入等待,同理lock_003在lock_002上注册监听。

原理图(https://blog.csdn.net/xuefeng0707/article/details/80588855):

curator源码:

 

1.2 解锁

不考虑可重入的话,解锁直接删除临时节点:

client.delete().guaranteed().forPath(ourPath);

当该临时节点被删除时,注册在该节点上的Watcher会监听到zk事件,然后执行process()方法:

notifyFromWatcher()其实就一行代码:

仍然举上面的例子,假设目前临时有序节点为:lock_001、lock_002、lock_003

当lock_001因为释放锁而被删除的时候,会触发zk通知机制,那么lock_002节点会收到事件通知,在收到通知的时候执行“notifyAll();”,通知当前JVM进程中所有处于wait状态的线程起来抢锁。

分布式环境下有多个进程,为什么只通知本进程的就可以?

假设节点2监听节点1是在进程A中进行的,节点3监听节点2是在进程B中进行的,那么当节点1删除的时候,通知到进程A,节点2就能收到,而节点2删除的时候会通知到进程B,节点3就能收到,意思是谁注册的监听就通知谁,这个过程是对的。

2 使用Curator实现分布式锁

Curator是Netfix公司开源的一套ZooKeeper客户端框架,对zk底层的连接、监听等进行了良好的封装,并且还提供了分布式锁API,因此我们不必自己实现上述复杂的理论,直接使用curator框架即可。

Curator分布式锁是一种可重入锁,实现了分布式的AQS,使用ConcurrentMap实现了一个类似ThreadLocal的功能,把线程(Thread.currentThread())作为key,锁作为value,在加锁时,如果在key中找到该线程,就对value加1,解锁时减1,减到0的时候删除临时节点、移除map中的该线程。

首先定义锁接口:

package utils.distributed.lock;public interface DistributedLock {/*** 阻塞式锁* @return*/void lock();/*** 非阻塞式锁* @return*/boolean tryLock();/*** 带超时时间的阻塞式锁* @param timeout* @return*/boolean tryLock(long timeout);/*** 解锁*/void unLock() throws Exception;/*** 释放资源*/void shutdown();
}

然后实现一个zk锁:

package utils.distributed.lock;import org.apache.commons.lang3.StringUtils;
import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.framework.CuratorFrameworkFactory;
import org.apache.curator.framework.recipes.locks.InterProcessMutex;
import org.apache.curator.retry.ExponentialBackoffRetry;import java.util.Arrays;
import java.util.concurrent.TimeUnit;/*** zk分布式锁*/
public class ZKLock implements DistributedLock {private CuratorFramework client;private InterProcessMutex lock;public ZKLock(String host, String bizType, String lockKey) {client = CuratorFrameworkFactory.newClient(host,new ExponentialBackoffRetry(ZKLockConstant.BASE_SLEEP_TIME_MS, ZKLockConstant.MAX_RETRIES));client.start();String path = ZKLockConstant.ZK_SEPERATOR + StringUtils.join(Arrays.asList(ZKLockConstant.ZK_LOCK_BASE_PREFIX, bizType, lockKey), ZKLockConstant.ZK_SEPERATOR);lock = new InterProcessMutex(client, path);}public void lock() {try {lock.acquire();} catch (Exception e) {e.printStackTrace();}}public boolean tryLock() {return tryLock(0);}public boolean tryLock(long timeout) {try {return lock.acquire(timeout, TimeUnit.MILLISECONDS);} catch (Exception e) {e.printStackTrace();return false;}}public void unLock() throws Exception {lock.release();}public void shutdown() {client.close();}
}

 

3 测试

3.1 测试lock

package mytest.distributed.lock;import utils.distributed.lock.ZKLock;import java.util.concurrent.CountDownLatch;public class ZkLockTest {public static void main(String[] args) {String zkHost = "192.168.160.128:2181";String bizType = "test";String lockKey = "testZkLock";ZKLock zkLock = new ZKLock(zkHost, bizType, lockKey);// 启动3个线程模拟分布式锁竞争CountDownLatch conutDownLatch = new CountDownLatch(3);for (int i = 0; i < 3; i++) {new Thread(() -> {testZkLock(zkLock);conutDownLatch.countDown();}).start();}try {conutDownLatch.await();} catch (InterruptedException e) {e.printStackTrace();}zkLock.shutdown();}private static void testZkLock(ZKLock zkLock) {System.out.println("######## 开始加锁,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());zkLock.lock();try {System.out.println("######## 加锁成功,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());try {Thread.sleep(5000);} catch (InterruptedException e) {e.printStackTrace();}} finally {try {zkLock.unLock();System.out.println("######## 解锁成功,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());} catch (Exception e) {System.out.println("######## 解锁失败,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());}}}
}

打印结果:

全部成功了。

3.2 测试tryLock()

复用上面的main方法,将testZkLock换成testZkLockTryLock:

private static void testZkLockTryLock(ZKLock zkLock) {System.out.println("######## 开始加锁,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());if (!zkLock.tryLock()) {System.out.println("######## 加锁失败,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());return;}try {System.out.println("######## 加锁成功,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());} finally {try {zkLock.unLock();System.out.println("######## 解锁成功,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());} catch (Exception e) {System.out.println("######## 解锁失败,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());}}
}

打印结果:

 

 

因为只尝试一次,所以有失败的情况发生。

3.3 测试tryLock(timeout)

private static void testZkLockTryLockTimeOut(ZKLock zkLock) {System.out.println("######## 开始加锁,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());if (!zkLock.tryLock(3000)) {System.out.println("######## 加锁失败,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());return;}try {System.out.println("######## 加锁成功,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());try {Thread.sleep(5000);} catch (InterruptedException e) {e.printStackTrace();}} finally {try {zkLock.unLock();System.out.println("######## 解锁成功,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());} catch (Exception e) {System.out.println("######## 解锁失败,线程信息:" + Thread.currentThread().getId() + "-" + Thread.currentThread().getName());}}
}

打印结果:

线程18获取锁之后要持有5s才会释放,而线程16、17加锁等待时间只有3s,因此会超时。

4 分布式锁注解

实现一个基于注解的分布式锁:

4.1 定义分布式锁注解

package utils.distributed.annotation;import java.lang.annotation.*;/*** ZK分布式锁注解*/
@Target(ElementType.METHOD)
@Retention(RetentionPolicy.RUNTIME)
@Documented
public @interface ZkLock {/*** zk地址* @return*/String zkHost();/*** 业务类型*/String bizType();/*** 锁名称** @return*/String lockKey();/*** 超时时间* @return*/long timeout();
}

4.2 定义分布式锁切面

package utils.distributed.advice;import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import utils.distributed.annotation.ZkLock;
import utils.distributed.lock.ZKLock;/*** @Description zk分布式锁切面* @Author lilong* @Date 2019-04-08 13:50*/
@Aspect
public class ZkLockAspectAdvice {@Around(value = "@annotation(utils.distributed.annotation.ZkLock) && @annotation(zkLock)")public Object process(ProceedingJoinPoint pjp, ZkLock zkLock) throws Throwable {ZKLock lock = new ZKLock(zkLock.zkHost(), zkLock.bizType(), zkLock.lockKey());boolean acquired = false;try {acquired = lock.tryLock(zkLock.timeout());if (acquired) {return pjp.proceed();} else {System.out.println("######## 加锁失败,线程信息:" + Thread.currentThread().getId() + "-"+ Thread.currentThread().getName());return null;}} finally {if (acquired) {lock.unLock();}}}
}

4.3 在applicationContext中增加切面配置

<!-- zk分布式锁注解 -->
<bean id="zkLockAspectAdvice" class="utils.distributed.advice.ZkLockAspectAdvice"/>
<bean id="zkLock" class="utils.distributed.lock.ZKLock" destroy-method="shutdown"/>

4.4 使用注解

@Override
@ZkLock(zkHost = "192.168.160.128:2181", bizType = "test", lockKey = "queryKeyValue", timeout = 3000)
public KeyValueJsonPO queryKeyValue(String bizType, String key) {return keyValueJsonPOMapper.queryKeyValue(bizType, key);
}

 

这篇关于分布式锁——zk实现的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/976342

相关文章

Oracle查询优化之高效实现仅查询前10条记录的方法与实践

《Oracle查询优化之高效实现仅查询前10条记录的方法与实践》:本文主要介绍Oracle查询优化之高效实现仅查询前10条记录的相关资料,包括使用ROWNUM、ROW_NUMBER()函数、FET... 目录1. 使用 ROWNUM 查询2. 使用 ROW_NUMBER() 函数3. 使用 FETCH FI

Python脚本实现自动删除C盘临时文件夹

《Python脚本实现自动删除C盘临时文件夹》在日常使用电脑的过程中,临时文件夹往往会积累大量的无用数据,占用宝贵的磁盘空间,下面我们就来看看Python如何通过脚本实现自动删除C盘临时文件夹吧... 目录一、准备工作二、python脚本编写三、脚本解析四、运行脚本五、案例演示六、注意事项七、总结在日常使用

Java实现Excel与HTML互转

《Java实现Excel与HTML互转》Excel是一种电子表格格式,而HTM则是一种用于创建网页的标记语言,虽然两者在用途上存在差异,但有时我们需要将数据从一种格式转换为另一种格式,下面我们就来看看... Excel是一种电子表格格式,广泛用于数据处理和分析,而HTM则是一种用于创建网页的标记语言。虽然两

Java中Springboot集成Kafka实现消息发送和接收功能

《Java中Springboot集成Kafka实现消息发送和接收功能》Kafka是一个高吞吐量的分布式发布-订阅消息系统,主要用于处理大规模数据流,它由生产者、消费者、主题、分区和代理等组件构成,Ka... 目录一、Kafka 简介二、Kafka 功能三、POM依赖四、配置文件五、生产者六、消费者一、Kaf

使用Python实现在Word中添加或删除超链接

《使用Python实现在Word中添加或删除超链接》在Word文档中,超链接是一种将文本或图像连接到其他文档、网页或同一文档中不同部分的功能,本文将为大家介绍一下Python如何实现在Word中添加或... 在Word文档中,超链接是一种将文本或图像连接到其他文档、网页或同一文档中不同部分的功能。通过添加超

windos server2022里的DFS配置的实现

《windosserver2022里的DFS配置的实现》DFS是WindowsServer操作系统提供的一种功能,用于在多台服务器上集中管理共享文件夹和文件的分布式存储解决方案,本文就来介绍一下wi... 目录什么是DFS?优势:应用场景:DFS配置步骤什么是DFS?DFS指的是分布式文件系统(Distr

NFS实现多服务器文件的共享的方法步骤

《NFS实现多服务器文件的共享的方法步骤》NFS允许网络中的计算机之间共享资源,客户端可以透明地读写远端NFS服务器上的文件,本文就来介绍一下NFS实现多服务器文件的共享的方法步骤,感兴趣的可以了解一... 目录一、简介二、部署1、准备1、服务端和客户端:安装nfs-utils2、服务端:创建共享目录3、服

C#使用yield关键字实现提升迭代性能与效率

《C#使用yield关键字实现提升迭代性能与效率》yield关键字在C#中简化了数据迭代的方式,实现了按需生成数据,自动维护迭代状态,本文主要来聊聊如何使用yield关键字实现提升迭代性能与效率,感兴... 目录前言传统迭代和yield迭代方式对比yield延迟加载按需获取数据yield break显式示迭

Python实现高效地读写大型文件

《Python实现高效地读写大型文件》Python如何读写的是大型文件,有没有什么方法来提高效率呢,这篇文章就来和大家聊聊如何在Python中高效地读写大型文件,需要的可以了解下... 目录一、逐行读取大型文件二、分块读取大型文件三、使用 mmap 模块进行内存映射文件操作(适用于大文件)四、使用 pand

python实现pdf转word和excel的示例代码

《python实现pdf转word和excel的示例代码》本文主要介绍了python实现pdf转word和excel的示例代码,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价... 目录一、引言二、python编程1,PDF转Word2,PDF转Excel三、前端页面效果展示总结一