GORM数据库连接池对接Prometheus

2024-05-01 22:52

本文主要是介绍GORM数据库连接池对接Prometheus,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、背景与介绍

        Golang的database/sql包定了关于操作数据库的相关接口,但是没有去做对应数据库的实现。这些实现是预留给开发者或者对应厂商进行实现的。

        其中让我比较关注的是Golang的sql包有没有实现连接池pool的机制呢?  毕竟Golang是静态语言,类似Java我们看到很多连接池的实现例如阿里巴巴的Apache druid。给开发者提供了一个高效的数据库连接池,提高应用的性能,连接池保持与后端数据库的长连接,在需要的时候直接使用即可。使用完毕后,将连接归还到连接池中。  并且还提供可视化界面,查看连接池的运行情况、连接数情况、活跃数、空闲数等等。

        我们通过源码可以发现,Golang底层的sql包是实现了数据库连接池的逻辑。但是Golang的连接池,都是隐式/惰性使用,只有在执行到查询SQL或者执行SQL的时候,才从pool中拿到连接进行执行, 不会像Java一样显式使用,需要从pool中拿到连接对象,再通过这个连接对象执行SQL.

二、GORM配置prometheus

1、对接Prometheus的目的

        GORM支持配置Promtehues的export, 这样我们再结合Grafana面板就能很直观地对Go程序的SQL连接池进行监控。

        可以监控到当前连接池的连接数有没有超过最大连接数、空闲连接数等等,由此来保证我们程序的正常运行。

        一般我们的Go项目都使用到GROM, 既然GORM实现了Prometheus的export,那么就使用内置功能进行测试。 其实我们也可以自己实现这个exporter, 通过DB对象的Stats()方法,返回连接池统计数据,再封装为exporter接口暴露出来即可。     

2、开启Promtheus exporter

db.go测试代码:

package dbimport ("gorm.io/driver/mysql""gorm.io/gorm""gorm.io/gorm/logger""gorm.io/plugin/prometheus""log""os""sync""time"
)var db *gorm.DB
var once sync.Once
var getDbConnErr error
var dsn = "root:root@tcp(127.0.0.1:3307)/test?charset=utf8mb4&parseTime=True&loc=Local"// GetDbConn 获取mysql连接
func GetDbConn() *gorm.DB {once.Do(func() {logfile, _ := os.OpenFile("./sql.log", os.O_CREATE|os.O_APPEND|os.O_RDWR, 0666)newLogger := logger.New(log.New(logfile, "\r\n", log.LstdFlags), logger.Config{SlowThreshold: time.Second,LogLevel:      logger.Info,})db, getDbConnErr = gorm.Open(mysql.Open(dsn), &gorm.Config{Logger: newLogger,})if getDbConnErr != nil {panic(getDbConnErr)}db.Use(prometheus.New(prometheus.Config{DBName:          "db1",                       // 使用 `DBName` 作为指标 labelRefreshInterval: 15,                          // 指标刷新频率(默认为 15 秒)PushAddr:        "prometheus pusher address", // 如果配置了 `PushAddr`,则推送指标StartServer:     true,                        // 启用一个 http 服务来暴露指标HTTPServerPort:  8080,                        // 配置 http 服务监听端口,默认端口为 8080 (如果您配置了多个,只有第一个 `HTTPServerPort` 会被使用)MetricsCollector: []prometheus.MetricsCollector{&prometheus.MySQL{Prefix:        "gorm_mysql_stats_",Interval:      15,VariableNames: []string{"Threads_running"},},}, // 用户自定义指标}))DB, _ := db.DB()// 最大连接数DB.SetMaxOpenConns(2)// 最大空闲连接数 <= 最大连接数DB.SetMaxIdleConns(1)// 连接数的生命周期, 从创建开始记时,到时间点会被销毁DB.SetConnMaxLifetime(time.Hour * 7)// 最大空闲时间, 这个链接距离上一次被使用的时间段,超过这个时间则认为该连接已过期DB.SetConnMaxIdleTime(time.Hour)})return db
}

 main.go测试代码:

package mainimport (db "awesomeProject1/db""fmt"_ "gorm.io/driver/mysql""gorm.io/gorm""math/rand""time"
)func main() {dbConn := db.GetDbConn()for i := 0; i < 10; i++ {go func(conn *gorm.DB) {for {time.Sleep(time.Second * time.Duration(rand.Intn(10)))rows := dbConn.Raw("select * from users")var res []map[string]interface{}fmt.Println(rows.Scan(&res))}}(dbConn)}for {time.Sleep(time.Second * 2)fmt.Println("running....")}
}

 访问http://localhost:8080/metrics 查看到指标数据:

3、采集metrics到Promtehus

promethues.yaml配置添加采集任务: 

4、Grafana配置监控面板

1、通过图表能看到,我们配置了连接池最大连接数是2个, 但是有10个协程去执行查询SQL,观察wait_count指标曲线在持续上涨, 此时有26个协程还在阻塞等待获取数据库连接,同时查看右边是等待获取数据库连接等待耗时曲线,也是一直在上涨,此时我们应该判定数据库连接池满了。那么例如生产环境,看到这种曲线要么我们设置的连接池最大连接数过小,要么mysql的连接数已经跑满了。 此时应该告警,查看异常的情况。

2、我们将最大连接数调整为20以后再观察监控面板:

   最大连接数已从2调整为20(2->20), 此时再看监控面板, 等待的协程数量wait_count:0、同时协程等待获取数据库连接的时间已经降为了0ns, 此时数据库连接池不再是爆满的状态。

三、总结

        无论Golang的什么ORM框架,GORM也好、XORM也罢, 底层还是去使用了database/sql这个包,这个包底层实现了连接池的抽象,同时提供了获取连接池相关统计信息的接口。 我们再结合Prometheus将这些指标暴露出来,结合Grafana这套告警体系,就可以实时监控和观察我们Go程序MySQL连接池的情况。

这篇关于GORM数据库连接池对接Prometheus的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/952868

相关文章

Spring Security基于数据库验证流程详解

Spring Security 校验流程图 相关解释说明(认真看哦) AbstractAuthenticationProcessingFilter 抽象类 /*** 调用 #requiresAuthentication(HttpServletRequest, HttpServletResponse) 决定是否需要进行验证操作。* 如果需要验证,则会调用 #attemptAuthentica

MySQL数据库宕机,启动不起来,教你一招搞定!

作者介绍:老苏,10余年DBA工作运维经验,擅长Oracle、MySQL、PG、Mongodb数据库运维(如安装迁移,性能优化、故障应急处理等)公众号:老苏畅谈运维欢迎关注本人公众号,更多精彩与您分享。 MySQL数据库宕机,数据页损坏问题,启动不起来,该如何排查和解决,本文将为你说明具体的排查过程。 查看MySQL error日志 查看 MySQL error日志,排查哪个表(表空间

【Prometheus】PromQL向量匹配实现不同标签的向量数据进行运算

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯,先赞后看哦~🎈🎈 🏆 作者简介:景天科技苑 🏆《头衔》:大厂架构师,华为云开发者社区专家博主,阿里云开发者社区专家博主,CSDN全栈领域优质创作者,掘金优秀博主,51CTO博客专家等。 🏆《博客》:Python全栈,前后端开发,小程序开发,人工智能,js逆向,App逆向,网络系统安全,数据分析,Django,fastapi

深入理解数据库的 4NF:多值依赖与消除数据异常

在数据库设计中, "范式" 是一个常常被提到的重要概念。许多初学者在学习数据库设计时,经常听到第一范式(1NF)、第二范式(2NF)、第三范式(3NF)以及 BCNF(Boyce-Codd范式)。这些范式都旨在通过消除数据冗余和异常来优化数据库结构。然而,当我们谈到 4NF(第四范式)时,事情变得更加复杂。本文将带你深入了解 多值依赖 和 4NF,帮助你在数据库设计中消除更高级别的异常。 什么是

如何确定 Go 语言中 HTTP 连接池的最佳参数?

确定 Go 语言中 HTTP 连接池的最佳参数可以通过以下几种方式: 一、分析应用场景和需求 并发请求量: 确定应用程序在特定时间段内可能同时发起的 HTTP 请求数量。如果并发请求量很高,需要设置较大的连接池参数以满足需求。例如,对于一个高并发的 Web 服务,可能同时有数百个请求在处理,此时需要较大的连接池大小。可以通过压力测试工具模拟高并发场景,观察系统在不同并发请求下的性能表现,从而

DM8数据库安装后配置

1 前言 在上篇文章中,我们已经成功将库装好。在安装完成后,为了能够更好地满足应用需求和保障系统的安全稳定运行,通常需要进行一些基本的配置。下面是一些常见的配置项: 数据库服务注册:默认包含14个功能模块,将这些模块注册成服务后,可以更好的启动和管理这些功能;基本的实例参数配置:契合应用场景和发挥系统的最大性能;备份:有备无患;… 2 注册实例服务 注册了实例服务后,可以使用系统服务管理,

速了解MySQL 数据库不同存储引擎

快速了解MySQL 数据库不同存储引擎 MySQL 提供了多种存储引擎,每种存储引擎都有其特定的特性和适用场景。了解这些存储引擎的特性,有助于在设计数据库时做出合理的选择。以下是 MySQL 中几种常用存储引擎的详细介绍。 1. InnoDB 特点: 事务支持:InnoDB 是一个支持 ACID(原子性、一致性、隔离性、持久性)事务的存储引擎。行级锁:使用行级锁来提高并发性,减少锁竞争

开源分布式数据库中间件

转自:https://www.csdn.net/article/2015-07-16/2825228 MyCat:开源分布式数据库中间件 为什么需要MyCat? 虽然云计算时代,传统数据库存在着先天性的弊端,但是NoSQL数据库又无法将其替代。如果传统数据易于扩展,可切分,就可以避免单机(单库)的性能缺陷。 MyCat的目标就是:低成本地将现有的单机数据库和应用平滑迁移到“云”端

ORACLE 11g 创建数据库时 Enterprise Manager配置失败的解决办法 无法打开OEM的解决办法

在win7 64位系统下安装oracle11g,在使用Database configuration Assistant创建数据库时,在创建到85%的时候报错,错误如下: 解决办法: 在listener.ora中增加对BlueAeri-PC或ip地址的侦听,具体步骤如下: 1.启动Net Manager,在“监听程序”--Listener下添加一个地址,主机名写计

MyBatis 切换不同的类型数据库方案

下属案例例当前结合SpringBoot 配置进行讲解。 背景: 实现一个工程里面在部署阶段支持切换不同类型数据库支持。 方案一 数据源配置 关键代码(是什么数据库,该怎么配就怎么配) spring:datasource:name: test# 使用druid数据源type: com.alibaba.druid.pool.DruidDataSource# @需要修改 数据库连接及驱动u