从马车到电动车,TiDB 部署工具变形记

2024-04-08 02:38

本文主要是介绍从马车到电动车,TiDB 部署工具变形记,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

作者:Heng Long

打造优秀产品的信念渗透在每一个 TiDB 开发者的血液中,衡量产品的优秀有多个维度:易用性、稳定性、性能、安全性、开放性、拓展性等等。**在部署易用性方面,TiDB 开发者们经过诸多探索和尝试,经过了命令行时代、Ansible 时代,终于在 TiDB 4.0 发布了新一代具有里程碑意义的解决方案——TiUP。

TiUP 的意义不仅仅在于提供了里程碑式的解决方案,更是对 TiDB 开源社区活力的有力证明。TiUP 从 3 月立项进入 PingCAP Incubator 进行孵化,从零开发到最终发布 TiUP 1.0 GA 仅仅只花了两个月。两个月内 40+ 位 Contributor 新增了 690+ 次提交,最终沉淀接近 40k 行代码。

本文会描述整个演进过程,并介绍 TiUP 设计过程中的一些理念和实现细节。

以史为鉴

TiUP 的诞生并非一蹴而就,而是有一个演变过程。简要描述这个演变过程,有助于大家更加深入理解 TiUP 的设计和取舍。

纯命令行

在没有 TiDB Ansible 的时代,要运行一个 TiDB 集群只能通过命令行的方式。TiDB 集群包含 TiDB/TiKV/PD 三个核心组件, 和 Promethues/Grafana/Node Exporter 监控组件。手动构建一个集群运行需要的所有命令行参数和配置文件比较复杂的。比如,我们想要搭建一个集群,其中启动三个 PD 的命令行参数就有下面这么复杂(可以忽略命令行,仅演示复杂性):

$ bin/pd-server --name=pd-0
--data-dir=data/Rt1J27k/pd-0/data
--peer-urls=http://127.0.0.1:2380
--advertise-peer-urls=http://127.0.0.1:2380 --client-urls=http://127.0.0.1:2379 --advertise-client-urls=http://127.0.0.1:2379 --log-file=data/Rt1J27k/pd-0/pd.log --initial-cluster=pd-0=http://127.0.0.1:2380,pd-1=http://127.0.0.1:2381,pd-2=http://127.0.0.1:2383$ bin/pd-server --name=pd-1
--data-dir=data/Rt1J27k/pd-1/data
--peer-urls=http://127.0.0.1:2381 --advertise-peer-urls=http://127.0.0.1:2381 --client-urls=http://127.0.0.1:2382 --advertise-client-urls=http://127.0.0.1:2382 --log-file=data/Rt1J27k/pd-1/pd.log --initial-cluster=pd-0=http://127.0.0.1:2380,pd-1=http://127.0.0.1:2381,pd-2=http://127.0.0.1:2383$ bin/pd-server --name=pd-2
--data-dir=data/Rt1J27k/pd-2/data
--peer-urls=http://127.0.0.1:2383 --advertise-peer-urls=http://127.0.0.1:2383 --client-urls=http://127.0.0.1:2384 --advertise-client-urls=http://127.0.0.1:2384 --log-file=data/Rt1J27k/pd-2/pd.log --initial-cluster=pd-0=http://127.0.0.1:2380,pd-1=http://127.0.0.1:2381,pd-2=http://127.0.0.1:2383

注:以 $ 开头的表示在命令行执行的命令

以上仅仅是启动 PD 就可以发现这种方式显然太复杂、使用门槛太高。尽管我们可以通过把这些东西脚本化,在脚本构建好这些内容,每次执行对应脚本来简化这个过程,但是对于第一次构建脚本的用户来说,也是不小的挑战。

另外在生产环境部署时还需要在多个主机上分发下载对应组件,以及初始化环境,对于扩容又需要各种初始化,相当繁琐。

TiDB Ansible

第二代方案 TiDB Ansible 基于 Ansible playbook 功能编写的集群部署工具,简化之后,只需要用户提供拓扑文件,即可提供集群部署和运维功能(启动、关闭、升级、重启、扩容、缩容)。但是 TiDB Ansible 的使用依然非常繁琐,提供的错误消息也不友好,同时只能串行处理,对于大集群的运维和管理尤其不方便。

$ vim hosts.ini                                                
$ ansible-playbook -i hosts.ini create_users.yml -u root -k   
$ vim inventory.ini                                        
$ ansible-playbook local_prepare.yml 
$ ansible-playbook bootstrap.yml
$ ansible-playbook deploy.yml
$ ansible-playbook start.yml

以上是部署启动一个集群,扩缩容操作更加繁琐。并且由于 Ansible 自身命令执行的特点,整个部署过程的时间较长。

TiUP

TiUP 在 TiDB Ansible 的基础上进一步对整个集群的部署和运维操作进行了简化。由于 TiUP 从零开发,可以掌控所有实现细节,针对部署 TiDB 集群的需要定制、避免非必需的动作,内部做到最大程度的并行化,同时提供更加友好错误提示。

利用 TiUP 部署集群通过简单的命令即可完成,且执行速度较 TiDB Ansible 大幅提高:

$ tiup cluster deploy <cluster-name> <version> <topology.yaml> [flags]   # 部署集群
$ tiup cluster start prod-cluster                                        # 启动集群

其他常用的运维操作也同样可以通过一个命令完成:

$ tiup cluster scale-in prod-cluster -N 172.16.5.140:20160               # 缩容节点
$ tiup cluster scale-out tidb-test scale.yaml                            # 扩容节点
$ tiup cluster upgrade tidb-test v4.0.0-rc                               # 升级集群

深入 TiUP

首先使用下面这行脚本安装 TiUP:

$ curl --proto '=https' --tlsv1.2 -sSf https://tiup-mirrors.pingcap.com/install.sh | sh

你会发现,使用 tiup help 命令时,我们并没有 tiup cluster 这个子命令,这是怎么回事儿呢?这就要从 TiUP 的设计理念聊起。

TiUP 理念

以上虽然演示了通过 TiUP 快速部署运维集群,但是 TiUP 的定位从来就不是一个运维工具,而是 TiDB 组件管理器。TiUP 之于 TiDB,类似 yum 之于 CentOS,Homebrew 之于 MacOS。

TiUP 的理念为:简单易用、可扩展、开放、安全。

简单易用

TiUP 本身只包含很少几个命令,几乎不用专门学习、记忆,完全依靠经验和肌肉记忆就能正确使用:

命令解释
tiup install <component>安装一个组件
tiup uninstall <component>卸载一个组件
tiup update更新组件
tiup list显示组件列表
tiup status运行的组件状态
tiup clean清理组件运行数据

可扩展

TiUP 最核心之处就是高度可扩展、可定制,除了自带的几个命令之外,还可以通过安装不同的组件,对 TiUP 进行定制,一千个人就有一千种 TiUP,将 TiUP 打造成一把属于自己的瑞士军刀。以上演示 集群部署运维 就是通过 TiUP-Cluster 组件提供的功能完成的,除了 TiUP-Cluster 组件之后,还有非常多有用的组件,例如以下两个开发中最常用的组件:

1. TiUP-Playground 组件,可以一条命令直接运行一个本地 TiDB 集群:

$ tiup playground                  # 运行最新稳定版 TiDB 集群
$ tiup playground v3.0.15          # 运行版本为 v3.0.15 TiDB 集群
$ tiup playground --kv 3           # 启动三个 TiKV 节点
$ tiup playground --monitor        # 启动 Prometheus 监控
$ ...

2. TiUP-Bench 组件,可以快速进行基准测试:

$ tiup bench tpcc                         # 进行 TPC-C 性能基准测试
$ tiup bench tpch prepare
$ tiup bench tpch run                     # 进行 TPC-H 性能基准测试

开放

TiUP 的组件模式不仅仅为可扩展性设计的,也希望构建一个开放生态,用户可以根据自己的使用场景,编写自己的组件,并且将组件提交到 TiUP 的镜像仓库。也可以在镜像仓库中根据自己的需求选择由社区开发的组件。

目前 TiUP 镜像仓库已经包含 20+ 组件,希望通过开放的生态基因和 TiDB 庞大的开发者生态创意碰撞,能为 TiUP 提交越来越多优质的组件。

为此,TiUP 提供了一个命令 tiup mirror publish 能够将本地组件通过一个命令发布到 TiUP 的镜像仓库。

$ tiup mirror publish -h
Publish a component to the repositoryUsage:tiup mirror publish <comp-name> <version> <tarball> <entry> [flags]Flags:--arch string       the target system architecture (default "amd64")--desc string       description of the component--endpoint string   endpoint of the server (default "https://tiup-mirrors.pingcap.com/")-h, --help              help for publish-k, --key string        private key path--os string         the target operation system (default "linux")Global Flags:--repo string          Path to the repository--skip-version-check   Skip the strict version check, by default a version must be a valid SemVer string

安全

安全是软件分发系统(组件管理器)的基石,如果分发的组件没有安全保障,那么上面提到简单易用、可扩展、开放都会为恶意软件提供便利。TiUP 作为 TiDB 生态的入口,比如提供企业级安全保障,需要防范在软件分发各个环节中可能出现的各种攻击。

要防范组件分发过程中的各种攻击,需要非常谨慎和精细的设计,得益于 TUF 规范的优良设计,我们在 TUF 规范的基础上设计了 TiUP 的软件分发方案,详细的设计文档超过 10 页,本文不会详细讨论所有细节,有兴趣的朋友可以参考 设计文档。

以下是对软件分发过程一个简要的描述(如何在各个环节防范不同类型的攻击,可以参考 TUF 规范和 TiUP 设计文档):

  1. 元信息分级:

    a. root 保存对元信息签名的公钥信息;

    b. index 保存各个组件信息和组件 Owner 的公钥信息;

    c. component 保存组件的版本信息;

    d. snapshot 保存其他元信息的最新版本号和 Hash 值;

    e. timestamp 保存最新 snapshot 的版本号和 Hash 值。

  2. 所有的元信息和组件包在 CDN 是不可变的,不同版本的元信息使用 ${version}.${name}.json 的文件名保存。

  3. 所有组件包的的 Hash 值保存在组件的元信息文件中 (sha256/sha512)

  4. 所有的元信息文件都包含该被签名内容和签名信息。

  5. 根证书使用 5 个密钥签名,5 个密钥分别由 5 位不同的 TiDB 开发者离线保存。

  6. 初始分发的 TiUP 中包含一份由 5 位 TiDB 开发者签名的 root.json,后续信息校验会保证 root.json 中至少有三个签名是正确的。

  7. index/snashot/timestamp 的不可篡改性由 root.json 中的对应的密钥信息保证。

  8. component 的不可篡改性由 index.json 中对应的 Owner 密钥保证(社区通过 tiup mirror publish 发布的组件,只有作者拥有私钥)。

  9. 各个组件包的不可篡改性由元信息中的 sha256/sha512 Hash 值保证(目前的算力情况下是安全的)。

通过上面的机制,我们能保证用户下载的组件不会经过任何中间环节篡改,从而提供安全的组件分发机制。

希望上面的介绍能让大家对 TiUP 的演进和理念有初步的认识,同时 TiUP 开源在 Github 并且随着 TiDB 4.0 GA 版本一起发布,对于 TiUP 有兴趣的小伙伴可以阅读源码,有任何问题都可以通过 Issue 提问或直接在 Slack 的 #sig-tiup 中提问。

附:TiUP 贡献者名单

序号GitHub ID
15kbpers
2AstroProfundis
3baurine
4birdstorm
5bobotu
6breeswish
7BusyJay
8c4pt0r
9chenlx0
10fewdan
11flowbehappy
12fredchenbj
13hhkbp2
14HunDunDM
15ilovesoup
16JaySon-Huang
17july2993
18King-Dylan
19kissmydb
20kolbe
21lhy1024
22lichunzhu
23liubo0127
24lonng
25lucklove
26mahjonp
27mapleFU
28marsishandsome
29nrc
30overvenus
31qinzuoyan
32rleungx
33siddontang
34sticnarf
35Win-Man
36wjhuang2016
37YangKeao
38yeya24
39yikeke
40zhangjinpeng1987
41zyguan

原文阅读:https://pingcap.com/blog-cn/tiup-introduction/
若对 TiDB 使用上有疑问,可以在 https://asktug.com 上搜索or发帖提问~

这篇关于从马车到电动车,TiDB 部署工具变形记的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/884346

相关文章

java图像识别工具类(ImageRecognitionUtils)使用实例详解

《java图像识别工具类(ImageRecognitionUtils)使用实例详解》:本文主要介绍如何在Java中使用OpenCV进行图像识别,包括图像加载、预处理、分类、人脸检测和特征提取等步骤... 目录前言1. 图像识别的背景与作用2. 设计目标3. 项目依赖4. 设计与实现 ImageRecogni

python管理工具之conda安装部署及使用详解

《python管理工具之conda安装部署及使用详解》这篇文章详细介绍了如何安装和使用conda来管理Python环境,它涵盖了从安装部署、镜像源配置到具体的conda使用方法,包括创建、激活、安装包... 目录pytpshheraerUhon管理工具:conda部署+使用一、安装部署1、 下载2、 安装3

基于Python开发电脑定时关机工具

《基于Python开发电脑定时关机工具》这篇文章主要为大家详细介绍了如何基于Python开发一个电脑定时关机工具,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1. 简介2. 运行效果3. 相关源码1. 简介这个程序就像一个“忠实的管家”,帮你按时关掉电脑,而且全程不需要你多做

k8s部署MongDB全过程

《k8s部署MongDB全过程》文章介绍了如何在Kubernetes集群中部署MongoDB,包括环境准备、创建Secret、创建服务和Deployment,并通过Robo3T工具测试连接... 目录一、环境准备1.1 环境说明1.2 创建 namespace1.3 创建mongdb账号/密码二、创建Sec

基于C#实现PDF文件合并工具

《基于C#实现PDF文件合并工具》这篇文章主要为大家详细介绍了如何基于C#实现一个简单的PDF文件合并工具,文中的示例代码简洁易懂,有需要的小伙伴可以跟随小编一起学习一下... 界面主要用于发票PDF文件的合并。经常出差要报销的很有用。代码using System;using System.Col

redis-cli命令行工具的使用小结

《redis-cli命令行工具的使用小结》redis-cli是Redis的命令行客户端,支持多种参数用于连接、操作和管理Redis数据库,本文给大家介绍redis-cli命令行工具的使用小结,感兴趣的... 目录基本连接参数基本连接方式连接远程服务器带密码连接操作与格式参数-r参数重复执行命令-i参数指定命

Java中的Opencv简介与开发环境部署方法

《Java中的Opencv简介与开发环境部署方法》OpenCV是一个开源的计算机视觉和图像处理库,提供了丰富的图像处理算法和工具,它支持多种图像处理和计算机视觉算法,可以用于物体识别与跟踪、图像分割与... 目录1.Opencv简介Opencv的应用2.Java使用OpenCV进行图像操作opencv安装j

将Python应用部署到生产环境的小技巧分享

《将Python应用部署到生产环境的小技巧分享》文章主要讲述了在将Python应用程序部署到生产环境之前,需要进行的准备工作和最佳实践,包括心态调整、代码审查、测试覆盖率提升、配置文件优化、日志记录完... 目录部署前夜:从开发到生产的心理准备与检查清单环境搭建:打造稳固的应用运行平台自动化流水线:让部署像

Python项目打包部署到服务器的实现

《Python项目打包部署到服务器的实现》本文主要介绍了PyCharm和Ubuntu服务器部署Python项目,包括打包、上传、安装和设置自启动服务的步骤,具有一定的参考价值,感兴趣的可以了解一下... 目录一、准备工作二、项目打包三、部署到服务器四、设置服务自启动一、准备工作开发环境:本文以PyChar

centos7基于keepalived+nginx部署k8s1.26.0高可用集群

《centos7基于keepalived+nginx部署k8s1.26.0高可用集群》Kubernetes是一个开源的容器编排平台,用于自动化地部署、扩展和管理容器化应用程序,在生产环境中,为了确保集... 目录一、初始化(所有节点都执行)二、安装containerd(所有节点都执行)三、安装docker-