阿里云RDS监控可以不那么“难看”【实操系列】

2023-11-28 12:38

本文主要是介绍阿里云RDS监控可以不那么“难看”【实操系列】,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

    • 1. 工具收集阶段
      • 1.1 Prometheus+Grafana环境部署
      • 1.2 阿里云RDS(mysqld)相关监控
      • 1.3 资源监控
        • 1.3.1 重新打包Dockerfile
        • 1.3.2 修改bug配置
        • 1.3.3 启动docker
        • 1.3.4 Grafana配置图
    • 2. 工具组合
      • 2.1 架构图
      • 2.2 supervisor+mysqld_exporter
      • 2.3 prometheus服务发现
      • 2.4 最后一哆嗦
    • 3. 简单效果展示
    • 4. 遗憾

云厂商可以帮助我们解决8-90%的“脏乱臭”的活,方便的不要不要的,当然也是有得有失吧。但个人觉得 RDS监控用起来确实有点不是太方便,自然要想办法改善使用。

Prometheus+Grafana,这套万金流自然首当其冲(有的人喜欢zabbix,都可以,仁者见仁)

1. 工具收集阶段

1.1 Prometheus+Grafana环境部署

此处不做过多赘述,网上文章很多。推荐电子书链接:prometheus-book

1.2 阿里云RDS(mysqld)相关监控

MySQL数据采集工具:mysqld_exporter,此工具也是prometheus官方工具下载地址。
部署也相当简单,创建好采集MySQL数据需要的用户,以及选择需要采集的指标,直接启动即可,如:

export DATA_SOURCE_NAME='user:password@(hostname:3306)/'
./mysqld_exporter <flags>

1.3 资源监控

除了RDS(MySQL)本身的一些监控,还需要关注资源的一些信息。如果是自建IDC,肯定是使用node_exporter。

谁让我们使用的是云产品呢,哎~

幸运的是PingCAP的工程师Aylei写了一套aliyun-exporter,原理是调用阿里云API收集监控数据(可以监控ECS、SLB、Redis、Mongodb、RDS等),以prometheus格式存储,同时非常nice的做了非常漂亮的Grafana图。
但是,由于“年久失修”,在使用的时候遇到不少问题,再加上个人代码能力青铜三段,重写有点难,那就硬修吧。以下是在使用时遇到的问题。

1.3.1 重新打包Dockerfile

原因是,pip3 install aliyun-exporter拉的镜像没有SLB的模块(其实这个根RDS监控没什么关系,另一位同事在搞SLB的监控,顺道都修了),人肉了很久,发现github中最新的代码有这个功能。尴尬~想用也只能自己动手了,替换最新的代码文件info_provider.py,重新打包。脚本如下:

$ cat docker.file
FROM aylei/aliyun-exporter:0.3.0
RUN pip3 install -U aliyun-exporter==0.3.1 PyYAML==5.1.2
RUN pip3 install  aliyun-python-sdk-slb aliyun-python-sdk-dds
COPY info_provider.py /usr/local/lib/python3.7/site-packages/aliyun_exporter/info_provider.py # 注意:作者没有把最新的代码打包进docker中,没办法只能我们先去下载代码,然后替换$ docker build -f docker.file -t aliyun-exporter:0.3.1 .
1.3.2 修改bug配置

这个地方应该是一个bug。
首先说明,aliyun_exporter本身是可以获取所有监控信息,也就是说1.2中的mysqld_exporter完全可以不需要,但是,在实际使用中又发现,如果增加rds_performance的监控项,服务无法启动。所以无奈,对于RDS劲限于做资源监控。

幸运的是有mysqld_exporter作为补充。

1.3.3 启动docker
$ docker run -d  -p 9526:9525  -e "ALIYUN_ACCESS_ID=XXXX" -e "ALIYUN_ACCESS_SECRET=XXXX" -e "ALIYUN_REGION=cn-XXXX"  -v $(pwd)/aliyun-exporter-test.yml:/aliyun-exporter.yml  aliyun-exporter:0.3.1  -p 9525 -c  /aliyun-exporter.yml
1.3.4 Grafana配置图

这部分的大小改动也不少:数据源的配置啊、怎么划分部门啊、加标签啊、Alter怎么解决不能给模版加告警啊 等等等等,就不赘述了。具体问题具体分析吧。

2. 工具组合

2.1 架构图

+----+
|RDS1+---------+
+----+         |        ECS>+----------------------+    +-------------+.             |  mysqld_exporter     |    | Prometheus  |.   +-------->+         +            +---->      +      |.             |  aliyun_exporter     |    |   Grafana   |.            >+----------------------+    +-------------+|
+----+         |
|RDSn+---------+
+----+

如上图,需要一台ECS部署mysqld_exporteraliyun_exporter进行信息采集,再将采集的信息丢给Prometheus

2.2 supervisor+mysqld_exporter

mysqld_exporter裸跑有点慌。所以使用进程管理工具supervisor协助管理。

# 脚本模版
$  cat mysqld_exporter.xxxx.conf
[program:xxxx]
directory = /opt/mysqld_exporter
command = /bin/nohup /opt/mysqld_exporter/mysqld_exporter --web.listen-address=[IP]:[PORT] --collect.global_status --collect.global_variables --collect.slave_status --collect.binlog_size --collect.engine_innodb_status --collect.info_schema.innodb_metrics --collect.info_schema.innodb_tablespaces --collect.info_schema.processlist --collect.info_schema.tablestats --collect.perf_schema.eventsstatements --collect.perf_schema.eventswaits --collect.perf_schema.file_events
autostart = true
startsecs = 5
autorestart = true
startretries = 3
user = root
redirect_stderr = true
stdout_logfile_maxbytes = 20MB
stdout_logfile_backups = 20
stdout_logfile = /var/log/supervisor/xxxx.log
environment=DATA_SOURCE_NAME='user:password@(hostname:3306)/'

查看服务

$ supervisorctl status
mysql_xxx_01                  RUNNING   pid 13935, uptime 4:15:15
mysql_xxx_02                  RUNNING   pid 14053, uptime 4:15:15
mysql_xxx_03                  RUNNING   pid 13866, uptime 4:15:15
...

2.3 prometheus服务发现

# 主配置文件
$ cat prometheus.yml
...- job_name: 'mysqld_exporter'file_sd_configs:- files:- '/usr/local/prometheus/sd_cfg/mysqld_exporter.yml'refresh_interval: 15s
...# 服务发现配置文件
$ cat /usr/local/prometheus/sd_cfg/mysqld_exporter.yml
- labels:alias : testdepart : "TEST"targets:- [ECS_IP]:[PORT_TEST]- labels:alias : qadepart : "QA"targets:- [ECS_IP]:[PORT_QA]- labels:alias : pro1depart : "PRO"targets:- [ECS_IP]:[PORT_PRO1]- labels:alias : pro2depart : "PRO"targets:- [ECS_IP]:[PORT_PRO2]
...

服务发现好处不言而喻,自动加载新增RDS

2.4 最后一哆嗦

目前已经完成了阿里云RDS所有层面的监控,难道每次新增一套RDS都要人肉一遍这个流程?显然有点二了。

只描述思路,就不贴脚本了:

  1. 通过阿里云API,获取所有RDS信息;
  2. 根据获取的信息为每个RDS生成mysqld_exporter启动脚本,并通过supervisor控制自启动;
  3. 根据获取的信息更新sd_cfg/mysqld_exporter.yml,实现服务自发现;
  4. 最后,计划任务定期去扫阿里云API,判断是否有新的RDS创建/删除

至此,再也不用人肉去加监控了,脚本不死,一切自动。

3. 简单效果展示

Alien_exporter采集的数据
看板

Detail的数据源是两部分

  • 资源监控
    在这里插入图片描述

  • mysql监控
    在这里插入图片描述
    在这里插入图片描述

4. 遗憾

一个mysqld_exporter进程只能监控一个RDS实例,所以N多RDS实例,就要对应启动N个mysqld_exporter,同时要分配N个不同端口(后续可以通过修改mysqld_exporter源码优化只启动一个mysqld_exporter服务)

水平有限,一个监控搞的那么碎,东拼西凑的,如哪位大佬有更优的解决方案求指导。

另外,调用阿里云API每个月是有上限的,超出要付费的,还好一个月50块钱的足够用。

另外,会有API获取不到数据的情况。出现断图也是很常见,但mysqld_exporter还是很ok的。

在这里插入图片描述

这篇关于阿里云RDS监控可以不那么“难看”【实操系列】的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/429703

相关文章

MySQL中实现多表查询的操作方法(配sql+实操图+案例巩固 通俗易懂版)

《MySQL中实现多表查询的操作方法(配sql+实操图+案例巩固通俗易懂版)》本文主要讲解了MySQL中的多表查询,包括子查询、笛卡尔积、自连接、多表查询的实现方法以及多列子查询等,通过实际例子和操... 目录复合查询1. 回顾查询基本操作group by 分组having1. 显示部门号为10的部门名,员

Linux使用nload监控网络流量的方法

《Linux使用nload监控网络流量的方法》Linux中的nload命令是一个用于实时监控网络流量的工具,它提供了传入和传出流量的可视化表示,帮助用户一目了然地了解网络活动,本文给大家介绍了Linu... 目录简介安装示例用法基础用法指定网络接口限制显示特定流量类型指定刷新率设置流量速率的显示单位监控多个

通过prometheus监控Tomcat运行状态的操作流程

《通过prometheus监控Tomcat运行状态的操作流程》文章介绍了如何安装和配置Tomcat,并使用Prometheus和TomcatExporter来监控Tomcat的运行状态,文章详细讲解了... 目录Tomcat安装配置以及prometheus监控Tomcat一. 安装并配置tomcat1、安装

C#实现系统信息监控与获取功能

《C#实现系统信息监控与获取功能》在C#开发的众多应用场景中,获取系统信息以及监控用户操作有着广泛的用途,比如在系统性能优化工具中,需要实时读取CPU、GPU资源信息,本文将详细介绍如何使用C#来实现... 目录前言一、C# 监控键盘1. 原理与实现思路2. 代码实现二、读取 CPU、GPU 资源信息1.

使用zabbix进行监控网络设备流量

《使用zabbix进行监控网络设备流量》这篇文章主要为大家详细介绍了如何使用zabbix进行监控网络设备流量,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录安装zabbix配置ENSP环境配置zabbix实行监控交换机测试一台liunx服务器,这里使用的为Ubuntu22.04(

springboot健康检查监控全过程

《springboot健康检查监控全过程》文章介绍了SpringBoot如何使用Actuator和Micrometer进行健康检查和监控,通过配置和自定义健康指示器,开发者可以实时监控应用组件的状态,... 目录1. 引言重要性2. 配置Spring Boot ActuatorSpring Boot Act

Java实现任务管理器性能网络监控数据的方法详解

《Java实现任务管理器性能网络监控数据的方法详解》在现代操作系统中,任务管理器是一个非常重要的工具,用于监控和管理计算机的运行状态,包括CPU使用率、内存占用等,对于开发者和系统管理员来说,了解这些... 目录引言一、背景知识二、准备工作1. Maven依赖2. Gradle依赖三、代码实现四、代码详解五

python使用watchdog实现文件资源监控

《python使用watchdog实现文件资源监控》watchdog支持跨平台文件资源监控,可以检测指定文件夹下文件及文件夹变动,下面我们来看看Python如何使用watchdog实现文件资源监控吧... python文件监控库watchdogs简介随着Python在各种应用领域中的广泛使用,其生态环境也

Spring Security 从入门到进阶系列教程

Spring Security 入门系列 《保护 Web 应用的安全》 《Spring-Security-入门(一):登录与退出》 《Spring-Security-入门(二):基于数据库验证》 《Spring-Security-入门(三):密码加密》 《Spring-Security-入门(四):自定义-Filter》 《Spring-Security-入门(五):在 Sprin

流媒体平台/视频监控/安防视频汇聚EasyCVR播放暂停后视频画面黑屏是什么原因?

视频智能分析/视频监控/安防监控综合管理系统EasyCVR视频汇聚融合平台,是TSINGSEE青犀视频垂直深耕音视频流媒体技术、AI智能技术领域的杰出成果。该平台以其强大的视频处理、汇聚与融合能力,在构建全栈视频监控系统中展现出了独特的优势。视频监控管理系统EasyCVR平台内置了强大的视频解码、转码、压缩等技术,能够处理多种视频流格式,并以多种格式(RTMP、RTSP、HTTP-FLV、WebS