MYSQL一次慢查询优化，不要被“索引“蒙蔽了双眼

2024-03-26 16:10
文章标签 mysql 查询 优化 索引 一次 database 不要 蒙蔽 双眼

本文主要是介绍MYSQL一次慢查询优化，不要被“索引“蒙蔽了双眼，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

最近光衰趋势的excel表格一直不能正常发送。手工执行，发现某sql执行后返回查询结果要15分钟。判定是数据库原因导致，急需优化。

定位元凶，慢查询SQL:
select ifnull(t2.tx_dbm,‘0’) from devops.pvs_switch_port t1
left join devops.pvs_sfpshow t2 on (t1.ip=t2.ip and t1.port=t2.port) and t2.inserttime=202208282310 order by t1.ip,t1.port+0;

观察sql，有用到join，sort。目测可能需优化的地方，下面给出了各项配置数据:
1、 innodb_pool_size = 32G 【服务器内存为64G】
2、 慢查询索引，经过explain分析，发现都已经走索引了，无需添加
3、 SQL中有join，order ,检查 join_buffer_size，sort_buffer_size参数分表为16，32M。
4、 pvs_sfpshow表有4200W数据

由此：可以优化的地方：
1、 加大innnodb_pool_size =50G 【64*80%】
2、 Sfp_show 分表

测试：
1、 查询去掉order ，查询时间差不多，此项忽略
2、 将where条件放入t2中先执行，然后查询时间为，15.6分钟，时间长没变化
3、 将一天数据单独插入一个表中（create table XXX select XXX），然后查询。0.016秒。查询极快,以此判断大概率是数据量问题导致。要么分区，要么建临时表，要么优化索引

遇到难题：
1、 inserttime是varchar类型的，不支持range分区
2、 将inserttime改为bigint后，要求range字段为主键或者主键字段之一。
3、 遂更改主键为id,inserttime

由此：
1、 加大内存配置
2、 Sfpshow表做分区
ALTER TABLE pvs_sfpshow PARTITION BY RANGE( inserttime ) (PARTITION p20220829 VALUES LESS THAN (202208292359))
3、 加定时任务，每天自动分区
4、 以上更改后，虽然能执行，但是发现仍15分钟。仔细查看索引，发现并没有自己预想的索引，故此怀疑索引字段不够。遂将索引字段修改为inserttime,ip,port，查询变成了0.3秒

在这里插入图片描述

总结：此SQL虽然走了索引，但索引字段不够，查询仍缓慢，需将where中的字段都修改为索引字段，查询优化成功

以下附上分区脚本：（脚本复用zabbix的分区脚本，做了简单修改）


#!/bin/bash#配置环境变量
DB_USER="devops"
DB_PWD="dddd"
DB_NAME="devops"
DB_PORT="3306"
DB_HOST="127.0.0.1"
MYSQL_BIN="/home/mysql-8.0.25/bin/mysql"#历史数据保留时间，单位天
HISTORY_DAYS=180#趋势数据保留时间，单位月
TREND_MONTHS=12HISTORY_TABLE="pvs_sfpshow"
TREND_TABLE="trends"#MYSQL连接命令
MYSQL_CMD=$(echo ${MYSQL_BIN} -u${DB_USER} -p${DB_PWD} -P${DB_PORT} -h${DB_HOST} ${DB_NAME})function create_partitions_history() {#给历史表创建分区for PARTITIONS_CREATE_EVERY_DAY in $(date +"%Y%m%d") $(date +"%Y%m%d" --date='1 days') $(date +"%Y%m%d" --date='2 days') $(date +"%Y%m%d" --date='3 days')  $(date +"%Y%m%d" --date='4 days') $(date +"%Y%m%d" --date='5 days') $(date +"%Y%m%d" --date='6 days') $(date +"%Y%m%d" --date='7 days')doprintf "$PARTITIONS_CREATE_EVERY_DAY"TIME_PARTITIONS=${PARTITIONS_CREATE_EVERY_DAY}2359printf "$TIME_PARTITIONS"for TABLE_NAME in ${HISTORY_TABLE}doSQL1=$(echo "show create table ${TABLE_NAME};")RET1=$(${MYSQL_CMD} -e "${SQL1}"|grep "PARTITION BY RANGE"|wc -l)#表结构中的表分区不存在，则创建if [ "${RET1}" == "0" ];thenSQL2=$(echo "ALTER TABLE $TABLE_NAME PARTITION BY RANGE( inserttime ) (PARTITION p${PARTITIONS_CREATE_EVERY_DAY}  VALUES LESS THAN (${TIME_PARTITIONS}));")printf "$SQL2"RET2=$(${MYSQL_CMD} -e "${SQL2}")printf "$SQL2"if [ "${RET2}" != "" ];thenecho  ${RET2}echo "${SQL2}"elseprintf "table %-12s create partitions p${PARTITIONS_CREATE_EVERY_DAY}\n" ${TABLE_NAME}ficontinuefi#表结构中的表分区已经存在，则创建分区if [ "${RET1}" != "0" ];thenSQL3=$(echo "show create table ${TABLE_NAME};")RET3=$(${MYSQL_CMD} -e "${SQL3}"|grep "p${PARTITIONS_CREATE_EVERY_DAY}"|wc -l)if [ "${RET3}" == "0" ];thenTIME_PARTITIONS=${PARTITIONS_CREATE_EVERY_DAY}2359SQL4=$(echo "ALTER TABLE $TABLE_NAME  ADD PARTITION (PARTITION p${PARTITIONS_CREATE_EVERY_DAY} VALUES LESS THAN (${TIME_PARTITIONS}));")printf "$SQL4"RET4=$(${MYSQL_CMD} -e "${SQL4}")if [ "${RET4}" != "" ];thenecho  ${RET4}echo "${SQL4}"elseprintf "table %-12s create partitions p${PARTITIONS_CREATE_EVERY_DAY}\n" ${TABLE_NAME}fififidonedone
}function drop_partitions_history() {#删除历史表分区for PARTITIONS_DELETE_DAYS_AGO in $(date +"%Y%m%d" --date="${HISTORY_DAYS} days ago")dofor TABLE_NAME in ${HISTORY_TABLE}doSQL=$(echo -e  "show create table ${TABLE_NAME};")RET=$(${MYSQL_CMD} -e "${SQL}"|grep "p${PARTITIONS_DELETE_DAYS_AGO}"|wc -l)if [ "${RET}" == "1" ];thenSQL=$(echo "ALTER TABLE ${TABLE_NAME} DROP PARTITION p${PARTITIONS_DELETE_DAYS_AGO};")RET=$(${MYSQL_CMD} -e "${SQL}")if [ "${RET}" != "" ];thenecho  ${RET}echo "${SQL}"elseprintf "table %-12s drop partitions p${PARTITIONS_DELETE_DAYS_AGO}\n" ${TABLE_NAME}fifidonedone
}function create_partitions_trend() {#创建趋势表分区for PARTITIONS_CREATE_EVERY_MONTHS in $(date +"%Y%m") $(date +"%Y%m" --date='1 months') $(date +"%Y%m" --date='2 months') $(date +"%Y%m" --date='3 months') $(date +"%Y%m" --date='4 months') $(date +"%Y%m" --date='5 months')doTIME_PARTITIONS=$(date -d "$(echo ${PARTITIONS_CREATE_EVERY_MONTHS}01 00:00:00)" +%s)for TABLE_NAME in ${TREND_TABLE}doSQL1=$(echo "show create table ${TABLE_NAME};")RET1=$(${MYSQL_CMD} -e "${SQL1}"|grep "PARTITION BY RANGE"|wc -l)#表结构中的表分区不存在，则创建if [ "${RET1}" == "0" ];thenSQL2=$(echo "ALTER TABLE $TABLE_NAME PARTITION BY RANGE( clock ) (PARTITION p${PARTITIONS_CREATE_EVERY_MONTHS}  VALUES LESS THAN (${TIME_PARTITIONS}));")RET2=$(${MYSQL_CMD} -e "${SQL2}")if [ "${RET2}" != "" ];thenecho  ${RET2}echo "${SQL2}"elseprintf "table %-12s create partitions p${PARTITIONS_CREATE_EVERY_MONTHS}\n" ${TABLE_NAME}ficontinuefi#表结构中的表分区已经存在，则创建分区if [ "${RET1}" != "0" ];thenSQL3=$(echo "show create table ${TABLE_NAME};")RET3=$(${MYSQL_CMD} -e "${SQL3}"|grep "p${PARTITIONS_CREATE_EVERY_MONTHS}"|wc -l)if [ "${RET3}" == "0" ];thenSQL4=$(echo "ALTER TABLE ${TABLE_NAME}  ADD PARTITION (PARTITION p${PARTITIONS_CREATE_EVERY_MONTHS} VALUES LESS THAN (${TIME_PARTITIONS}));")RET4=$(${MYSQL_CMD} -e "${SQL4}")if [ "${RET4}" != "" ];thenecho  ${RET4}echo "${SQL4}"elseprintf "table %-12s create partitions p${PARTITIONS_CREATE_EVERY_MONTHS}\n" ${TABLE_NAME}fififidonedone
}function drop_partitions_trend() {#删除趋势表分区for PARTITIONS_DELETE_MONTHS_AGO in $(date +"%Y%m" --date="${TREND_MONTHS} months ago")dofor TABLE_NAME in ${TREND_TABLE}doSQL=$(echo "show create table ${TABLE_NAME};")RET=$(${MYSQL_CMD} -e "${SQL}"|grep "p${PARTITIONS_DELETE_MONTHS_AGO}"|wc -l)if [ "${RET}" == "1" ];thenSQL=$(echo "ALTER TABLE ${TABLE_NAME} DROP PARTITION p${PARTITIONS_DELETE_MONTHS_AGO};")RET=$(${MYSQL_CMD} -e "${SQL}")if [ "${RET}" != "" ];thenecho  ${RET}echo "${SQL}"elseprintf "table %-12s drop partitions p${PARTITIONS_DELETE_MONTHS_AGO}\n" ${TABLE_NAME}fifidonedone
}function main() {create_partitions_history#create_partitions_trenddrop_partitions_history#drop_partitions_trend
}main

这篇关于MYSQL一次慢查询优化，不要被“索引“蒙蔽了双眼的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/849069。

相关文章

Vue3 的 shallowRef 和 shallowReactive：优化性能

Vue3 的 shallowRef 和 shallowReactive：优化性能

大家对 Vue3 的 ref 和 reactive 都很熟悉，那么对 shallowRef 和 shallowReactive 是否了解呢？ 在编程和数据结构中，“shallow”（浅层）通常指对数据结构的最外层进行操作，而不递归地处理其内部或嵌套的数据。这种处理方式关注的是数据结构的第一层属性或元素，而忽略更深层次的嵌套内容。 1. 浅层与深层的对比 1.1 浅层（Shallow） 定义
阅读更多...
SQL中的外键约束

SQL中的外键约束

外键约束用于表示两张表中的指标连接关系。外键约束的作用主要有以下三点： 1.确保子表中的某个字段（外键）只能引用父表中的有效记录2.主表中的列被删除时，子表中的关联列也会被删除3.主表中的列更新时，子表中的关联元素也会被更新 子表中的元素指向主表 以下是一个外键约束的实例展示
阅读更多...
基于MySQL Binlog的Elasticsearch数据同步实践

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展，我们的业务数据越来越多，单纯使用 MySQL 已经不能满足我们的数据查询需求，例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后，随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步，我们目前的解决方案是建立数据中间表。把需要检索的业务数据，统一放到一张M
阅读更多...
如何去写一手好SQL

如何去写一手好SQL

MySQL性能 最大数据量 抛开数据量和并发数，谈性能都是耍流氓。MySQL没有限制单表最大记录数，它取决于操作系统对文件大小的限制。 《阿里巴巴Java开发手册》提出单表行数超过500万行或者单表容量超过2GB，才推荐分库分表。性能由综合因素决定，抛开业务复杂度，影响程度依次是硬件配置、MySQL配置、数据表设计、索引优化。500万这个值仅供参考，并非铁律。 博主曾经操作过超过4亿行数据
阅读更多...
HDFS—存储优化（纠删码）

HDFS—存储优化（纠删码）

纠删码原理 HDFS 默认情况下，一个文件有3个副本，这样提高了数据的可靠性，但也带来了2倍的冗余开销。 Hadoop3.x 引入了纠删码，采用计算的方式，可以节省约50％左右的存储空间。 此种方式节约了空间，但是会增加 cpu 的计算。 纠删码策略是给具体一个路径设置。所有往此路径下存储的文件，都会执行此策略。 默认只开启对 RS-6-3-1024k
阅读更多...
性能分析之MySQL索引实战案例

性能分析之MySQL索引实战案例

文章目录 一、前言二、准备三、MySQL索引优化四、MySQL 索引知识回顾五、总结 一、前言 在上一讲性能工具之 JProfiler 简单登录案例分析实战中已经发现SQL没有建立索引问题，本文将一起从代码层去分析为什么没有建立索引？ 开源ERP项目地址：https://gitee.com/jishenghua/JSH_ERP 二、准备 打开IDEA找到登录请求资源路径位置
阅读更多...
使用opencv优化图片（画面变清晰）

使用opencv优化图片（画面变清晰）

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化，使其看起来更清晰，同时保持尺寸不变，通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多，主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器：相机传
阅读更多...
MySQL数据库宕机，启动不起来，教你一招搞定！

MySQL数据库宕机，启动不起来，教你一招搞定！

作者介绍：老苏，10余年DBA工作运维经验，擅长Oracle、MySQL、PG、Mongodb数据库运维（如安装迁移，性能优化、故障应急处理等）公众号：老苏畅谈运维欢迎关注本人公众号，更多精彩与您分享。 MySQL数据库宕机，数据页损坏问题，启动不起来，该如何排查和解决，本文将为你说明具体的排查过程。 查看MySQL error日志 查看 MySQL error日志，排查哪个表（表空间
阅读更多...
活用c4d官方开发文档查询代码

活用c4d官方开发文档查询代码

当你问AI助手比如豆包，如何用python禁止掉xpresso标签时候，它会提示到 这时候要用到两个东西。https://developers.maxon.net/论坛搜索和开发文档 比如这里我就在官方找到正确的id描述 然后我就把参数标签换过来
阅读更多...
MySQL高性能优化规范

MySQL高性能优化规范

前言：      笔者最近上班途中突然想丰富下自己的数据库优化技能。于是在查阅了多篇文章后，总结出了这篇！ 数据库命令规范 所有数据库对象名称必须使用小写字母并用下划线分割 所有数据库对象名称禁止使用mysql保留关键字（如果表名中包含关键字查询时，需要将其用单引号括起来） 数据库对象的命名要能做到见名识意，并且最后不要超过32个字符 临时库表必须以tmp_为前缀并以日期为后缀，备份
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2