基于Docker + Locust的数据持久化性能测试系统

2024-04-24 11:04
文章标签 数据 系统 性能 docker 测试 持久 locust

本文主要是介绍基于Docker + Locust的数据持久化性能测试系统，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

在这里插入图片描述

前几天给大家分享了如何使用Locust进行性能测试，但是在实际使用中会发现存在压测的结果无法保存的问题，比如在分布式部署情况下进行压测，每轮压测完成需要释放资源删除容器重新部署后，这段时间的压测结果就都丢失了，如果想要对比多次压测的结果，就需要在每轮压测完成后手动记录，非常不方便，而且Locust在压测过程中对于一些指标的展示也过于简单，不利于我们对测试结果的分析，接下来跟大家分享使用Locust + Prometheus实现数据持久化，并且用Grafana创建性能测试仪表，希望能给大家的测试工作带来帮助。

关于Docker，在本文中就不做介绍了，之前给大家分享过一篇关于Docker介绍与安装的文章：
Docker在Windows与CentOS上的安装

Prometheus用途：

Prometheus是一个开源的监控和警报工具，用于收集、存储和查询各种类型的时间序列数据。它可以监控服务器、应用程序和网络服务的性能指标，以便管理员能够及时发现问题并采取相应的措施。Prometheus系统还可以通过配置警报规则来实时监测系统的状态，并在发现异常情况时发送警报通知。这使得管理员能够快速响应并解决问题，确保系统的稳定性和可靠性。

Grafana用途：

Grafana的主要用途是数据可视化和监控。它可以帮助用户通过创建各种图表和仪表板来可视化数据，从而更容易地理解数据、发现趋势和问题，并做出更明智的决策。Grafana还可以与各种数据源集成，包括数据库、云服务和监控系统，帮助用户监控系统的健康状况、性能和运行情况。总的来说，Grafana是一个功能强大的工具，可以帮助用户更好地理解和管理他们的数据和系统。

一、准备Docker环境

操作系统：CentOS 7
Python版本：3.8
Locust版本：2.1

通过yum安装docker

yum install -y docker

安装完成后，查看docker版本

docker -v

创建docker虚拟网络，docker虚拟网络可以让不同的docker容器在各自独立的网络环境中运行，相互之间不会干扰；还能方便容器之间进行通信，就像一个内部的“网络小世界”；并且能让容器与外部网络进行连接，实现数据的传输和交互。

docker network create locust_network

通过以下命令查看创建的网络

docker network ls

二、部署locust的Master节点

我们需要采用Locust的分布式部署，那么Master节点的主要作用是收集数据。那么就需要在Master节点服务器上启动Locust的master与prometheus。

非常感谢大佬开源了一个集成了集成了prometheus的locust的master节点代码，可以通过下面链接下载：

https://github.com/myzhan/boomer/blob/master/prometheus_exporter.py

如果下载遇到问题，也可以直接使用下面代码：

# -*- coding: utf-8 -*-
import six
from itertools import chain
from flask import request, Response
from locust import stats as locust_stats, runners as locust_runners
from locust import User, task, events
from prometheus_client import Metric, REGISTRY, expositionclass LocustCollector(object):"""用于收集Locust的指标数据，并且以Prometheus格式导出"""registry = REGISTRYdef __init__(self, environment, runner):self.environment = environmentself.runner = runnerdef collect(self):'''该方法用于收集指标数据，并生成相应的Prometheus指标，只在locust状态为spawning或者running时收集指标。'''runner = self.runnerif runner and runner.state in (locust_runners.STATE_SPAWNING, locust_runners.STATE_RUNNING):stats = []for s in chain(locust_stats.sort_stats(runner.stats.entries), [runner.stats.total]):stats.append({'method': s.method,'name': s.name,'num_requests': s.num_requests,'num_failures': s.num_failures,'avg_response_time': s.avg_response_time,'min_response_time': s.min_response_time or 0,'max_response_time': s.max_response_time,'current_rps': s.current_rps,'median_response_time': s.median_response_time,'ninetieth_response_time': s.get_response_time_percentile(0.9),# 只有总统计数据可以使用current_response_time# 'current_response_time_percentile_95': s.get_current_response_time_percentile(0.95),'avg_content_length': s.avg_content_length,'current_fail_per_sec': s.current_fail_per_sec})# 只在worker节点中起作用errors = [e.to_dict() for e in six.itervalues(runner.stats.errors)]metric = Metric('locust_user_count', 'Swarmed users', 'gauge')metric.add_sample('locust_user_count', value=runner.user_count, labels={})yield metricmetric = Metric('locust_errors', 'Locust requests errors', 'gauge')for err in errors:metric.add_sample('locust_errors', value=err['occurrences'], labels={'path': err['name'], 'method': err['method'], 'error': err['error']})yield metricis_distributed = isinstance(runner, locust_runners.MasterRunner)if is_distributed:metric = Metric('locust_slave_count', 'Locust number of slaves', 'gauge')metric.add_sample('locust_slave_count', value=len(runner.clients.values()), labels={})yield metricmetric = Metric('locust_fail_ratio', 'Locust failure ratio', 'gauge')metric.add_sample('locust_fail_ratio', value=runner.stats.total.fail_ratio, labels={})yield metricmetric = Metric('locust_state', 'State of the locust swarm', 'gauge')metric.add_sample('locust_state', value=1, labels={'state': runner.state})yield metricstats_metrics = ['avg_content_length', 'avg_response_time', 'current_rps', 'current_fail_per_sec','max_response_time','ninetieth_response_time', 'median_response_time','min_response_time', 'num_failures', 'num_requests']for mtr in stats_metrics:mtype = 'gauge'if mtr in ['num_requests', 'num_failures']:mtype = 'counter'metric = Metric('locust_stats_' + mtr, 'Locust stats ' + mtr, mtype)for stat in stats:# aggregstat的方法标签是None，所以将它命名为aggregstatif 'Aggregated' != stat['name']:metric.add_sample('locust_stats_' + mtr, value=stat[mtr], labels={'path': stat['name'], 'method': stat['method']})else:metric.add_sample('locust_stats_' + mtr, value=stat[mtr], labels={'path': stat['name'], 'method': 'Aggregated'})yield metric@events.init.add_listener
def locust_init(environment, runner, **kwargs):if environment.web_ui and runner:@environment.web_ui.app.route('/export/prometheus')def prometheus_exporter():registry = REGISTRYencoder, content_type = exposition.choose_encoder(request.headers.get('Accept'))if 'name[]' in request.args:registry = REGISTRY.restricted_registry(request.args.get('name[]'))body = encoder(registry)return Response(body, content_type=content_type)REGISTRY.register(LocustCollector(environment, runner))class Dummy(User):@task(20)def hello(self):pass
1、下载完成后，将prometheus_exporter.py上传至当做master节点的服务器
2、启动Locust的Master节点

启动命令如下：

docker run -p 8089:8089 -p 5557:5557 -v $PWD/prometheus_exporter.py:/mnt/locust/locustfile.py --name=locust_master --network=locust_network --network-alias=locust_master locustio/locust -f /mnt/locust/locustfile.py --master

执行命令时，会自动下载镜像，可以不用执行docker pull。

对于这条命令的解释：

docker run：运行一个 Docker 容器。-p 8089:8089 -p 5557:5557：将主机的 8089 端口和 5557 端口分别映射到容器的 8089 端口和 5557 端口。-v $PWD/prometheus_exporter.py:/mnt/locust/locustfile.py：将当前工作目录下的prometheus_exporter.py文件挂载到容器的/mnt/locust/locustfile.py位置。--name=locust_master：为容器命名为locust_master。--network=locust_network：指定容器使用的网络为locust_network。--network-alias=locust_master：为容器在网络中设置别名locust_master。locustio/locust -f /mnt/locust/locustfile.py --master：指定使用locustio/locust镜像，并指定要运行的文件为/mnt/locust/locustfile.py，以主节点模式运行。

如果执行上面命令在启动容器时出现报错
在这里插入图片描述

说明容器里面没有安装prometheus_client库，需要进行手动安装。手动安装完成后可以重新打一个镜像，避免后续报错，此处先描述一下如何进行手动安装，首先我们要现将容器启动起来，然后进入容器内部进行包的安装。

编辑prometheus_exporter.py文件

vim prometheus_exporter.py

在文件的第二行添加两行代码，然后保存文件。

关于vim编辑器的使用可以参考之前给大家分享的linux常用命令：
作为测试人员的Linux常用命令

import os
os.system("tail -f /dev/null")

在这里插入图片描述

这两行代码的意思是使用os.system方法执行命令tail -f /dev/null，会持续追踪/dev/null文件的内容（实际上/dev/null是一个空设备，不会有实际内容）。一般用于在后台保持进程运行，这样容器就可以正常启动。

重启docker的master节点容器

docker restart locust_master

查看容器运行状态，locust_master容器启动成功。

docker ps -a

进入到locust_master容器中。

docker exec -it locust_master /bin/bash

进入容器后，使用pip安装prometheus_client包。

pip install prometheus_client

安装成功后，通过exit退出容器回到服务器上，再次使用vim编辑prometheus_exporter.py文件，删除刚刚添加的两行代码，保存文件。

还原prometheus_exporter.py文件后，再次重启master节点容器

docker restart locust_master
3、验证Locust的Master节点

重启完成后，打开浏览器，在浏览器输入http://master-ip:8089可以访问到locust的原生web页面。
在这里插入图片描述

然后在浏览器输入http://master-ip:8089/export/prometheus
如果出现如下图的prometheus数据，表示master节点启动正确。
在这里插入图片描述

4、启动Prometheus

在master节点服务器上创建prometheus.yml配置文件，并且写入以下内容：

global:scrape_interval:     10sevaluation_interval: 10sscrape_configs:- job_name: prometheusstatic_configs:- targets: ['localhost:9090']labels:instance: prometheus- job_name: locustmetrics_path: '/export/prometheus'static_configs:- targets: ['locust_master:8089']  # 这里是locust的master节点启动命令中的network-alias后面的参数 + 内部端口，不要写外部映射的端口号labels:instance: locust

运行下面命令创建prometheus容器

docker run -d -p 9090:9090 -v $PWD/prometheus.yml:/etc/prometheus/prometheus.yml --name=prometheus --network=locust_network --network-alias=prometheus prom/prometheus

对于这条命令的解释：

docker run：运行一个 Docker 容器。-d：以守护进程模式运行容器。-p 9090:9090：将主机的 9090 端口映射到容器的 9090 端口。-v $PWD/prometheus.yml:/etc/prometheus/prometheus.yml：将当前工作目录下的prometheus.yml文件挂载到容器的/etc/prometheus/prometheus.yml位置。--name=prometheus：给容器命名为“prometheus”。--network=locust_network：指定容器使用的网络为“locust_network”。--network-alias=prometheus：为容器在网络中设置别名“prometheus”。prom/prometheus：指定要使用的镜像为“prom/prometheus”

查看容器运行状态

docker ps -a

启动容器成功后进行验证
浏览器输入http://master-ip:9090/targets，出现如下页面，则代表服务运行正常。
在这里插入图片描述

5、启动Grafana

使用以下命令启动grafana容器

docker run -d -p 3000:3000 --name grafana --network=locust_network grafana/grafana

对于这条命令的解释：

docker run：启动一个 Docker 容器。-d：表示在后台以守护进程的方式运行。-p 3000:3000：将主机的 3000 端口映射到容器的 3000 端口。--name grafana：给容器命名为“grafana”。--network=locust_network：指定容器使用“locust_network”网络。grafana/grafana：使用“grafana/grafana”镜像来创建容器。

浏览器输入http://master_ip:3000
在这里插入图片描述

首次登录用户名和密码都是admin，进去了之后需要修改密码，登录后进入Configuration

在这里插入图片描述

添加一个数据源。
在这里插入图片描述

选择数据源为prometheus。
在这里插入图片描述

配置数据源的url，url处输入创建prometheus容器时的–network-alias的别名:9090，所以此处需要填写http://prometheus:9090。
在这里插入图片描述

导入仪表盘模版。
在这里插入图片描述

输入id为12081，点击load，来加载locust性能测试的仪表盘模版。
在这里插入图片描述

选择完仪表盘模版后选择数据源，选择prometheus，点击import。
在这里插入图片描述

导入成功后，出现如下页面，此时通过locust执行测试的数据将会展示在仪表盘中。
在这里插入图片描述

关于启动用户数的图表配置：

id为12081的这个模版中缺少Locust的用户数量指标，需要额外进行创建。

点击仪表盘上方添加图表按钮
在这里插入图片描述

在这里插入图片描述

数据源选择prometheus，然后下方的Metrics browser处填写locust_user_count，最后点击右上角的Apply，此时仪表盘中会显示启动用户数据。
在这里插入图片描述

三、部署Locust的Worker节点

关于Locust压测脚本编写有很多种方式，需要具备一定的python编程基础，可以参照：
使用Python3 + Locust进行性能测试
worker节点启动的py文件是压测需要的业务代码。
以下是一个单接口压测的例子：

# -*- coding:utf-8 -*-
from locust import User, task, events
import requests
import time
import json__doc__ = '埋点接口压测脚本'class Dummy(User):@taskdef send_lingge_burying_point(self):"""发送埋点接口"""api_url = 'https://app.xxxxxxxxx.cn/app_v1/advert/dataBack'headers = {'Content-Type': 'application/x-www-form-urlencoded'}request_data = {'androidid': '0', 'appType': 'ios-app-user', 'appVersion': '1.61.0', 'channel': 'ios-official','deviceBrand': 'iPhone', 'deviceModel': 'iPhone XS','equipmentId': '09bf8295234a91723908172394635c98f', 'eventName': 'obtainLocationInformation','eventParam': json.dumps({"cityCode": "110000"}), 'idfa': '00000000-0000-0000-0000-000000000000','interfaceType': 'event', 'mac': '0', 'oaid': '0', 'osType': 'iOS', 'platform': 'ios','systemVersion': '15.5'}start_time = time.time()try:response = requests.post(url=api_url, params=request_data, headers=headers)response_text = json.loads(response.text)total_time = int((time.time() - start_time) * 1000)if response_text['success'] is True:events.request_success.fire(request_type="HTTPS", name="埋点接口-成功", response_time=total_time, response_length=len(response_text))else:events.request_failure.fire(request_type="HTTPS", name="埋点接口-失败", response_time=total_time, response_length=len(response_text))except Exception as e:total_time = int((time.time() - start_time) * 1000)events.request_failure.fire(request_type="HTTPS", name="埋点接口-错误", response_time=total_time, exception=f'埋点接口错误:{e}', response_length=0)

文件名称为locust_burial_point.py

将locust_burial_point.py上传到服务器，然后执行下面命令，来启动worker节点。

docker run -d -v $PWD/locust_worker.py:/mnt/locust/locustfile.py --name=locust_worker --network=locust_network locustio/locust -f /mnt/locust/locustfile.py --worker --master-host locust_master --master-port 5557

对于这条命令的解释：

docker run：运行 Docker 容器。-d：以守护进程模式运行。-v $PWD/locust_worker.py:/mnt/locust/locustfile.py：将当前工作目录下的locust_worker.py文件挂载到容器内的/mnt/locust/locustfile.py位置。--name=locust_worker：给容器命名为“locust_worker”。--network=locust_network：指定容器使用“locust_network”网络。locustio/locust：使用“locustio/locust”镜像。-f /mnt/locust/locustfile.py：指定要运行的文件为/mnt/locust/locustfile.py。--worker：以工作节点模式运行。--master-host locust_master：指定主节点的主机名。--master-port 5557：指定主节点的端口号。

启动成功后，查看容器运行状态。

docker ps -a

此时Master和Worker节点都已经正确启动，进入master节点的Locust web页面，可以看到worker数变为了1。
在这里插入图片描述

到此，大功告成，可以输入总用户数和每秒启动数来进行压测了，压测过程中，可以通过grafana的仪表盘分析测试过程与结果。

在此处贴一张我前段时间压测过程中的图：
在这里插入图片描述

四、搭建docker私有仓库（扩展）

1、修改/etc/docker/daemon.json文件，添加信任。
将以下内容添加到文件中

"insecure-registries":["http://master-ip:8080"]

2、重新加载并且重启docker

# 重加载
systemctl daemon-reload
# 重启docker
systemctl restart docker

3、部署带有图象界面的DockerRegistry容器，用来管理镜像。

创建registry-ui目录，并且进入到目录中。

mkdir registry-ui && cd registry-ui

创建docker-compose.yml文件。

touch docker-compose.yml

将以下内容写入docker-compose.yml，REGISTRY_URL需要修改为服务器的ip地址，然后保存文件。

version: '3.0'
services:registry:image: registry volumes:- ./registry-data:/var/lib/registryui:image: joxit/docker-registry-ui:staticports:- 8080:80environment:- REGISTRY_TITLE=这是一个性能测试镜像仓库- REGISTRY_URL=http://master_ip:5000depends_on:- registry

在registry-ui目录中启动。

docker-compose up -d

启动成功后访问http://master_ip:8080，出现下图则代表启动成功。
在这里插入图片描述

最后，关于如何创建镜像、上传下载镜像等，以及docker的常用命令，大家可以阅读：Docker常用命令

希望本文能给大家的测试工作带来一定的帮助，谢谢~

这篇关于基于Docker + Locust的数据持久化性能测试系统的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/931576。

相关文章

Java利用JSONPath操作JSON数据的技术指南

Java利用JSONPath操作JSON数据的技术指南

《Java利用JSONPath操作JSON数据的技术指南》JSONPath是一种强大的工具,用于查询和操作JSON数据,类似于SQL的语法,它为处理复杂的JSON数据结构提供了简单且高效... 目录1、简述2、什么是 jsONPath？3、Java 示例3.1 基本查询3.2 过滤查询3.3 递归搜索3.4
阅读更多...
Python如何使用__slots__实现节省内存和性能优化

Python如何使用__slots__实现节省内存和性能优化

《Python如何使用__slots__实现节省内存和性能优化》你有想过,一个小小的__slots__能让你的Python类内存消耗直接减半吗,没错,今天咱们要聊的就是这个让人眼前一亮的技巧,感兴趣的... 目录背景：内存吃得满满的类__slots__：你的内存管理小助手举个大概的例子：看看效果如何？1.
阅读更多...
MySQL大表数据的分区与分库分表的实现

MySQL大表数据的分区与分库分表的实现

《MySQL大表数据的分区与分库分表的实现》数据库的分区和分库分表是两种常用的技术方案,本文主要介绍了MySQL大表数据的分区与分库分表的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有... 目录1. mysql大表数据的分区1.1 什么是分区？1.2 分区的类型1.3 分区的优点1.4 分
阅读更多...
Mysql删除几亿条数据表中的部分数据的方法实现

Mysql删除几亿条数据表中的部分数据的方法实现

《Mysql删除几亿条数据表中的部分数据的方法实现》在MySQL中删除一个大表中的数据时,需要特别注意操作的性能和对系统的影响,本文主要介绍了Mysql删除几亿条数据表中的部分数据的方法实现,具有一定... 目录1、需求2、方案1. 使用 DELETE 语句分批删除2. 使用 INPLACE ALTER T
阅读更多...
Docker镜像pull失败两种解决办法小结

Docker镜像pull失败两种解决办法小结

《Docker镜像pull失败两种解决办法小结》有时候我们在拉取Docker镜像的过程中会遇到一些问题,：本文主要介绍Docker镜像pull失败两种解决办法的相关资料,文中通过代码介绍的非常详细... 目录docker 镜像 pull 失败解决办法1DrQwWCocker 镜像 pull 失败解决方法2总
阅读更多...
Python Dash框架在数据可视化仪表板中的应用与实践记录

Python Dash框架在数据可视化仪表板中的应用与实践记录

《PythonDash框架在数据可视化仪表板中的应用与实践记录》Python的PlotlyDash库提供了一种简便且强大的方式来构建和展示互动式数据仪表板,本篇文章将深入探讨如何使用Dash设计一... 目录python Dash框架在数据可视化仪表板中的应用与实践1. 什么是Plotly Dash？1.1
阅读更多...
Redis 中的热点键和数据倾斜示例详解

Redis 中的热点键和数据倾斜示例详解

《Redis中的热点键和数据倾斜示例详解》热点键是指在Redis中被频繁访问的特定键,这些键由于其高访问频率,可能导致Redis服务器的性能问题,尤其是在高并发场景下,本文给大家介绍Redis中的热... 目录Redis 中的热点键和数据倾斜热点键（Hot Key）定义特点应对策略示例数据倾斜（Data S
阅读更多...
通过Docker Compose部署MySQL的详细教程

通过Docker Compose部署MySQL的详细教程

《通过DockerCompose部署MySQL的详细教程》DockerCompose作为Docker官方的容器编排工具,为MySQL数据库部署带来了显著优势,下面小编就来为大家详细介绍一... 目录一、docker Compose 部署 mysql 的优势二、环境准备与基础配置2.1 项目目录结构2.2 基
阅读更多...
Python实现将MySQL中所有表的数据都导出为CSV文件并压缩

Python实现将MySQL中所有表的数据都导出为CSV文件并压缩

《Python实现将MySQL中所有表的数据都导出为CSV文件并压缩》这篇文章主要为大家详细介绍了如何使用Python将MySQL数据库中所有表的数据都导出为CSV文件到一个目录,并压缩为zip文件到... python将mysql数据库中所有表的数据都导出为CSV文件到一个目录，并压缩为zip文件到另一个
阅读更多...
Linux系统之主机网络配置方式

Linux系统之主机网络配置方式

《Linux系统之主机网络配置方式》：本文主要介绍Linux系统之主机网络配置方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、查看主机的网络参数1、查看主机名2、查看IP地址3、查看网关4、查看DNS二、配置网卡1、修改网卡配置文件2、nmcli工具【通用
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2