zookeeper的使用及C语言接口函数,以及分布式学习的个人总结

本文主要是介绍zookeeper的使用及C语言接口函数,以及分布式学习的个人总结,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

zookeeper我一开始没认出来是动物饲养员的意思,后来看了关于zookeeper取名的文章才知道这个名字的由来
下面这段内容摘自《从 Paxos 到 ZooKeeper 》第四章第一节的某段内容,名字由来还挺好玩的哈哈哈
Zookeeper 最早起源于雅虎研究院的一个研究小组。在当时,研究人员发现,在雅虎内部很多大型系统基本都需要依赖一个类似的系统来进行分布式协调,但是这些系统往往都存在分布式单点问题。

所以,雅虎的开发人员就试图开发一个通用的无单点问题的分布式协调框架,以便让开发人员将精力集中在处理业务逻辑上。

关于“ZooKeeper”这个项目的名字,其实也有一段趣闻。在立项初期,考虑到之前内部很多项目都是使用动物的名字来命名的(例如著名的Pig项目),雅虎的工程师希望给这个项目也取一个动物的名字。

时任研究院的首席科学家 Raghu Ramakrishnan 开玩笑地说:“在这样下去,我们这儿就变成动物园了!”

此话一出,大家纷纷表示就叫动物园管理员吧,因为各个以动物命名的分布式组件放在一起,雅虎的整个分布式系统看上去就像一个大型的动物园了。

而 Zookeeper 正好要用来进行分布式环境的协调,于是,Zookeeper 的名字也就由此诞生了

目录

    • 前言
    • 安装zk
    • 如何运行zk?
    • zk结点存储及常用的命令
        • 存储结构
        • 常用命令
    • 如何使用C语言接口?
    • zk的watch机制
    • zk在那一层,启动顺序是什么?
    • 结尾

前言

zookeeper我的认知可能是片面的,目前总结一下我用到的部分,现在学会了,怕过一阵子就忘记了,所以写一下zk(zookeeper的简称)的总结,记录一下以便未来方便回忆。很多东西就是长时间不用就会忘记,所以文中可能会出现很多很多简单的东西。看的是这位老师的课,讲的很好课程链接
以下就使用zk简称来代替zookeeper

安装zk

首先介绍一下zk的安装,下载链接

可以修改zk的结点的保存路径,dataDir,data文件夹也是自己定义的
在这里插入图片描述
在这里插入图片描述

如何运行zk?

zk是用java写的,所以要运行zk的话电脑必须要装有JDK

在zk的bin目录下./zkServer.sh start相当于启动后台程序,类似./exe &这样执行
在这里插入图片描述
同样在bin目录下./ZKCli.sh 运行客户端,就可以连接啦
在这里插入图片描述

zk结点存储及常用的命令

存储结构

在这里插入图片描述
头是/,可以使用ls / 来看根结点底下有多少个结点
每个结点可以存储值,值放在内存中,读比写还牛逼,我只用到了读,目前还没有用到写,看很多博客都是这样说的,待考察。

常用命令
  • ls 查看结点
  • get /zookeeper 查看结点内容
  • create 创建结点后面是结点存储的路径 创建结点也要一级一级的创建
  • set 修改结点的值
  • delete 删除结点的值,删完他底下的孩子才能再删别的结点

这个没有cd 命令,所以要操作命令相当于写绝对路径,这些命令是在客户端操作的,例如下图
ls命令
在这里插入图片描述
get命令,这里我的结点存的就是ip地址加端口号,ip:port是固定格式,C语言接口说明是这样写的,我看到了,但是忘记了在源码那里写的了。
在这里插入图片描述

如何使用C语言接口?

# 解压之后进入src目录下,进行如下操作
sudo ./configure
sudo make
sudo make install

如果make遇到问题,遇到这个错误,要修改makefile
在这里插入图片描述在这里插入图片描述
这个问题我是遇到了,我看了源码确实不合理,尝试着修改,发现这里修改好了其他文件又有错误就放弃了修改源码的想法,这个修改参考的是这篇博客博客链接

代码是最上面介绍的课程中的源码,进行了一个客户端的封装

#include "ZKClient.h"
#include "MprpcApplication.h"
#include <semaphore.h>
#include <iostream>// 全局的watcher观察器   zkserver给ZKClient的通知
void global_watcher(zhandle_t *zh, int type,int state, const char *path, void *watcherCtx)
{if (type == ZOO_SESSION_EVENT)  // 回调的消息类型是和会话相关的消息类型{if (state == ZOO_CONNECTED_STATE)  // ZKClient和zkserver连接成功{sem_t *sem = (sem_t*)zoo_get_context(zh);sem_post(sem);// sem_wait就会被唤醒了}}
}ZKClient::ZKClient() : m_zhandle_(nullptr)
{
}ZKClient::~ZKClient()
{if (m_zhandle_ != nullptr){zookeeper_close(m_zhandle_); // 关闭句柄,释放资源  MySQL_Conn}
}// 连接zkserver
void ZKClient::Start()
{std::string host = MprpcApplication::GetInstance().getConfig().Load("zookeeperIp");std::string port = MprpcApplication::GetInstance().getConfig().Load("zookeeperPort");std::string connstr = host + ":" + port;/*zookeeper_mt:多线程版本zookeeper的API客户端程序提供了三个线程API调用线程 网络I/O线程  pthread_create  pollwatcher回调线程 pthread_create*/// 30秒是定时的时间m_zhandle_ = zookeeper_init(connstr.c_str(), global_watcher, 30000, nullptr, nullptr, 0);if (nullptr == m_zhandle_) {std::cout << "zookeeper_init error!" << std::endl;exit(EXIT_FAILURE);}// 这是信号量sem_t sem;sem_init(&sem, 0, 0);zoo_set_context(m_zhandle_, &sem);// zk原生的API所需要的// 这里阻塞,要等句柄创建好了,在继续执行sem_wait(&sem);std::cout << "zookeeper_init success!" << std::endl;
}void ZKClient::Create(const char *path, const char *data, int datalen, int state)
{char path_buffer[128];int bufferlen = sizeof(path_buffer);int flag;// 先判断path表示的znode节点是否存在,如果存在,就不再重复创建了flag = zoo_exists(m_zhandle_, path, 0, nullptr);if (ZNONODE == flag) // 表示path的znode节点不存在{// 创建指定path的znode节点了,state 0就是临时节点,flag = zoo_create(m_zhandle_, path, data, datalen,&ZOO_OPEN_ACL_UNSAFE, state, path_buffer, bufferlen);if (flag == ZOK){std::cout << "znode create success... path:" << path << std::endl;}else{std::cout << "flag:" << flag << std::endl;std::cout << "znode create error... path:" << path << std::endl;exit(EXIT_FAILURE);}}
}// 根据指定的path,获取znode节点的值
std::string ZKClient::GetData(const char *path)
{char buffer[64];int bufferlen = sizeof(buffer);int flag = zoo_get(m_zhandle_, path, 0, buffer, &bufferlen, nullptr);if (flag != ZOK){std::cout << "get znode error... path:" << path << std::endl;return "";}else{return buffer;}
}

链接动态库,有一点要注意的,就是st结尾就是单线程连接ZK服务端,mt结尾就是多线程连接ZK,多线程是开启了三根线程

  • API调用线程
  • 网络I/O线程 poll模型
  • watcher回调线程

在这里插入图片描述

ZK有心跳机制,有超时时间,比如某个rpc结点挂掉了,ZK服务端检会定时发送心跳包,如果一直没有收到回应,服务端就会主动把他断开连接

创建的结点分为永久结点和临时结点。其中create中的state = 0表示创建临时结点,就是当客户端关闭的时候,超过了定时的时间,服务端就会把他自动的关闭

新生成的zk动态库可能找不到,记得用 sudo ldconfig来刷新一下

zk的watch机制

简单的讲就是观察者,zk客户端连接zk的服务端,成功连接返回给客户端。zk的客户端和服务端就快乐建立起来了

zk在那一层,启动顺序是什么?

在这里插入图片描述
大概就是这样的流程图,先启动zk的服务端,在启动rpc服务,将自己的类和类中的函数传给zk服务端,让zk创建临时结点,临时结点的内容是ip:port这样的形式保存。举个例子 UserServiceRpc就是类Login就是一个rpc函数,保存了他的ip和port,写在这里我突然觉得还可以在改进一下,如果这个类的函数都在一个进程上,那为什么不让UserServiceRpc类直接携带内容呢?我觉得很有道理,已经到了凌晨12:30,改天没事的时候改一下,这份代码是看得课程中的源码。

在这里插入图片描述
回顾一下rpc函数在protobuf是怎么生成的
在这里插入图片描述

客户端连接是zk的ip和端口号,他将要请求的类和函数发给zk,zk把他请求的结点中包含的内容返回给他。客户端知道了请求的主机(或者说是不同的进程)的ip地址和端口号,这样客户端直接和远程的主机进行交流。

结尾

又思考了一下到底zk那里牛逼?比如,这时候又来一个rpc服务,我只需要再配置项里重新写一个新来的rpc服务的ip地址和端口号,因为只要启动了这个rpc服务就一定会主动连接zk服务端,像zk服务端说明自己的类,类中有什么样的函数,怎么说明?就是在服务端创建一个又一个结点啦。
在这里插入图片描述

这也是zk的由来,管理各个rpc服务的ip和port,至于其他的zk东西暂未了解,像zk的分布式锁阿等等内容,这些zk的知识等用到的时候再去学习!

这篇关于zookeeper的使用及C语言接口函数,以及分布式学习的个人总结的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/156034

相关文章

Go语言中make和new的区别及说明

《Go语言中make和new的区别及说明》:本文主要介绍Go语言中make和new的区别及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1 概述2 new 函数2.1 功能2.2 语法2.3 初始化案例3 make 函数3.1 功能3.2 语法3.3 初始化

Spring IoC 容器的使用详解(最新整理)

《SpringIoC容器的使用详解(最新整理)》文章介绍了Spring框架中的应用分层思想与IoC容器原理,通过分层解耦业务逻辑、数据访问等模块,IoC容器利用@Component注解管理Bean... 目录1. 应用分层2. IoC 的介绍3. IoC 容器的使用3.1. bean 的存储3.2. 方法注

Python内置函数之classmethod函数使用详解

《Python内置函数之classmethod函数使用详解》:本文主要介绍Python内置函数之classmethod函数使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录1. 类方法定义与基本语法2. 类方法 vs 实例方法 vs 静态方法3. 核心特性与用法(1编程客

Linux中压缩、网络传输与系统监控工具的使用完整指南

《Linux中压缩、网络传输与系统监控工具的使用完整指南》在Linux系统管理中,压缩与传输工具是数据备份和远程协作的桥梁,而系统监控工具则是保障服务器稳定运行的眼睛,下面小编就来和大家详细介绍一下它... 目录引言一、压缩与解压:数据存储与传输的优化核心1. zip/unzip:通用压缩格式的便捷操作2.

使用Python实现可恢复式多线程下载器

《使用Python实现可恢复式多线程下载器》在数字时代,大文件下载已成为日常操作,本文将手把手教你用Python打造专业级下载器,实现断点续传,多线程加速,速度限制等功能,感兴趣的小伙伴可以了解下... 目录一、智能续传:从崩溃边缘抢救进度二、多线程加速:榨干网络带宽三、速度控制:做网络的好邻居四、终端交互

Python中注释使用方法举例详解

《Python中注释使用方法举例详解》在Python编程语言中注释是必不可少的一部分,它有助于提高代码的可读性和维护性,:本文主要介绍Python中注释使用方法的相关资料,需要的朋友可以参考下... 目录一、前言二、什么是注释?示例:三、单行注释语法:以 China编程# 开头,后面的内容为注释内容示例:示例:四

JavaSE正则表达式用法总结大全

《JavaSE正则表达式用法总结大全》正则表达式就是由一些特定的字符组成,代表的是一个规则,:本文主要介绍JavaSE正则表达式用法的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参考下... 目录常用的正则表达式匹配符正则表China编程达式常用的类Pattern类Matcher类PatternSynta

Go语言中nil判断的注意事项(最新推荐)

《Go语言中nil判断的注意事项(最新推荐)》本文给大家介绍Go语言中nil判断的注意事项,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1.接口变量的特殊行为2.nil的合法类型3.nil值的实用行为4.自定义类型与nil5.反射判断nil6.函数返回的

Go语言数据库编程GORM 的基本使用详解

《Go语言数据库编程GORM的基本使用详解》GORM是Go语言流行的ORM框架,封装database/sql,支持自动迁移、关联、事务等,提供CRUD、条件查询、钩子函数、日志等功能,简化数据库操作... 目录一、安装与初始化1. 安装 GORM 及数据库驱动2. 建立数据库连接二、定义模型结构体三、自动迁

ModelMapper基本使用和常见场景示例详解

《ModelMapper基本使用和常见场景示例详解》ModelMapper是Java对象映射库,支持自动映射、自定义规则、集合转换及高级配置(如匹配策略、转换器),可集成SpringBoot,减少样板... 目录1. 添加依赖2. 基本用法示例:简单对象映射3. 自定义映射规则4. 集合映射5. 高级配置匹