【性能问题】如何解决MySQL索引失效带来的性能瓶颈这个棘手问题?

2024-01-18 00:44

本文主要是介绍【性能问题】如何解决MySQL索引失效带来的性能瓶颈这个棘手问题?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、背景

在上线的一个S1服务中,偶现db请求高时延,触发了sql执行超过2秒阈值告警,连续好几天都不规律触发告警,频率为每天1次。涉及的影响:如果超时,会导致新用户注册失败。所以Dev决定联合dba排查一下该现象的原因。

二、分析过程

2.1 live环境确认

dba根据告警日志信息,抓取抓取高时延SQL请求,在生产环境执行该sql,分析该SQL会全表扫描,没有预期的索引查询,耗时高达:40秒。

SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c1 = 'v1'OR c2 = 'v2'OR c3 = 'v3'OR c4 = 'v4'OR c5 = 'v5'OR c6 = 'v6'OR c7 = 'v7'OR c8 = 'v8'
2.2 non-live环境复现

验证发现,nonlive的执行计划会走索引查询,而不是live环境的全表扫描。

2.3 nonlive&live执行计划不一致原因分析

数据量不一致:nolive环境查询出1条记录,live环境可以查询处20000+条记录,可能导致mysql优化器认为全表扫描比使用索引更高效(不是所有请求都走全表扫描可以解释live环境高时延偶现现象)

三、优化方式

or 语句改成 union 语句,强制mysql走索引查询

(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c1 = 'v1')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c2 = 'v2')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c3 = 'v3')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c4 = 'v4')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c5 = 'v5')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c6 = 'v6')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c7 = 'v7')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c8 = 'v8')

四、知识总结–MySQL索引失效的原因

MySQL索引失效的原因有很多,下面列举几个比较常见的原因。

1.数据量太大
如果数据库中的数据量太大,索引可能会失效。这是因为当查询条件返回的数据太多时,MySQL会选择放弃使用索引而使用全表扫描。

2.索引列数据类型不匹配
如果索引列的数据类型与查询条件的数据类型不匹配,索引也会失效。例如,如果索引列的数据类型是VARCHAR,而查询条件是INT,MySQL将无法使用该索引。

3.索引列被函数处理
如果查询条件中包含函数,那么MySQL将无法使用索引。例如,如果查询条件是“SELECT * FROM my_table WHERE YEAR(created_at) = 2022”,MySQL将无法使用索引。

4.索引列使用了函数
如果索引列中使用了函数,MySQL将无法使用该索引。例如,如果索引列是“CONCAT(first_name, ’ ', last_name)”而查询条件是“WHERE first_name = ‘Tom’”,MySQL将无法使用该索引。

5.索引列过多
如果表中有太多的索引列,索引的效率将降低。这是因为MySQL需要在多个索引中进行选择,导致查询变慢。

6.查询条件中使用了OR
如果查询条件中使用了OR,MySQL将无法使用索引。例如,“SELECT * FROM my_table WHERE age = 20 OR age = 30”,MySQL将无法使用索引。

7.索引列上存在NULL值
如果索引列上存在NULL值,MySQL将无法使用该索引。这是因为NULL值不能与其他值进行比较。

五、知识总结–如何检测MySQL索引失效

1.使用EXPLAIN
EXPLAIN命令可以帮助我们分析查询语句的执行计划,从而找出索引失效的原因。例如,我们可以运行“EXPLAIN SELECT * FROM my_table WHERE age = 20”来查看MySQL是否使用了索引。如果MySQL使用了索引,我们会在Extra列中看到“Using index”。

2.使用慢查询日志
MySQL慢查询日志可以记录执行时间超过指定阈值的SQL语句,从而帮助我们找出可能存在索引失效的查询语句。可以通过修改MySQL配置文件中的slow_query_log参数来开启慢查询日志。然后通过分析慢查询日志来确定哪些查询语句执行时间过长,并检查是否存在索引失效的情况。

3.使用监控工具
MySQL有很多监控工具可以帮助我们分析数据库的性能瓶颈。其中一些工具可以分析查询语句的执行计划,并找出可能存在索引失效的问题。例如,Percona Toolkit和pt-query-digest可以帮助我们分析查询语句的执行计划,并找出可能存在索引失效的问题。

六、知识总结–如何修复MySQL索引失效

1.优化查询语句
如果查询语句不够优化,MySQL可能会放弃使用索引。我们可以通过重构查询语句来解决这个问题。例如,我们可以尽可能地避免使用OR,避免在索引列上使用函数,避免在查询条件中使用NULL值等等。

2.添加索引
如果某个查询语句没有使用索引,我们可以考虑为相应的列添加索引。但是要注意不要过度添加索引,因为这会影响MySQL的性能。

3.优化数据表结构
如果数据表结构不够优化,索引的效率也会受到影响。我们可以考虑优化数据表结构,例如将大型文本字段拆分为多个字段,将多个表拆分为多个表等等。

4.调整MySQL配置参数
MySQL有许多配置参数可以影响索引的效率。我们可以根据具体情况调整这些参数,例如key_buffer_size、innodb_buffer_pool_size等等。

这篇关于【性能问题】如何解决MySQL索引失效带来的性能瓶颈这个棘手问题?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/617665

相关文章

Feign Client超时时间设置不生效的解决方法

《FeignClient超时时间设置不生效的解决方法》这篇文章主要为大家详细介绍了FeignClient超时时间设置不生效的原因与解决方法,具有一定的的参考价值,希望对大家有一定的帮助... 在使用Feign Client时,可以通过两种方式来设置超时时间:1.针对整个Feign Client设置超时时间

SpringBoot首笔交易慢问题排查与优化方案

《SpringBoot首笔交易慢问题排查与优化方案》在我们的微服务项目中,遇到这样的问题:应用启动后,第一笔交易响应耗时高达4、5秒,而后续请求均能在毫秒级完成,这不仅触发监控告警,也极大影响了用户体... 目录问题背景排查步骤1. 日志分析2. 性能工具定位优化方案:提前预热各种资源1. Flowable

Ubuntu中远程连接Mysql数据库的详细图文教程

《Ubuntu中远程连接Mysql数据库的详细图文教程》Ubuntu是一个以桌面应用为主的Linux发行版操作系统,这篇文章主要为大家详细介绍了Ubuntu中远程连接Mysql数据库的详细图文教程,有... 目录1、版本2、检查有没有mysql2.1 查询是否安装了Mysql包2.2 查看Mysql版本2.

基于SpringBoot+Mybatis实现Mysql分表

《基于SpringBoot+Mybatis实现Mysql分表》这篇文章主要为大家详细介绍了基于SpringBoot+Mybatis实现Mysql分表的相关知识,文中的示例代码讲解详细,感兴趣的小伙伴可... 目录基本思路定义注解创建ThreadLocal创建拦截器业务处理基本思路1.根据创建时间字段按年进

Python3.6连接MySQL的详细步骤

《Python3.6连接MySQL的详细步骤》在现代Web开发和数据处理中,Python与数据库的交互是必不可少的一部分,MySQL作为最流行的开源关系型数据库管理系统之一,与Python的结合可以实... 目录环境准备安装python 3.6安装mysql安装pymysql库连接到MySQL建立连接执行S

springboot循环依赖问题案例代码及解决办法

《springboot循环依赖问题案例代码及解决办法》在SpringBoot中,如果两个或多个Bean之间存在循环依赖(即BeanA依赖BeanB,而BeanB又依赖BeanA),会导致Spring的... 目录1. 什么是循环依赖?2. 循环依赖的场景案例3. 解决循环依赖的常见方法方法 1:使用 @La

MySQL双主搭建+keepalived高可用的实现

《MySQL双主搭建+keepalived高可用的实现》本文主要介绍了MySQL双主搭建+keepalived高可用的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,... 目录一、测试环境准备二、主从搭建1.创建复制用户2.创建复制关系3.开启复制,确认复制是否成功4.同

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Mysql表的简单操作(基本技能)

《Mysql表的简单操作(基本技能)》在数据库中,表的操作主要包括表的创建、查看、修改、删除等,了解如何操作这些表是数据库管理和开发的基本技能,本文给大家介绍Mysql表的简单操作,感兴趣的朋友一起看... 目录3.1 创建表 3.2 查看表结构3.3 修改表3.4 实践案例:修改表在数据库中,表的操作主要

Python如何使用__slots__实现节省内存和性能优化

《Python如何使用__slots__实现节省内存和性能优化》你有想过,一个小小的__slots__能让你的Python类内存消耗直接减半吗,没错,今天咱们要聊的就是这个让人眼前一亮的技巧,感兴趣的... 目录背景:内存吃得满满的类__slots__:你的内存管理小助手举个大概的例子:看看效果如何?1.