【SQLAlchemy】MySQL server has gone away 原因分析、解决方法

2023-12-31 21:08

本文主要是介绍【SQLAlchemy】MySQL server has gone away 原因分析、解决方法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

SQLAlchemy报错:MySQL server has gone away

错误日志

2020-01-03 20:00:00,072 - update_example_table.py - get_pcodes_arr_by_kind_from_db[line:147] - ERROR: (pymysql.err.OperationalError) (2006, “MySQL server has gone away (error(10053, ‘’))”)
[SQL: SELECT example_menu.p_codes AS example_menu_p_codes
FROM example_menu
WHERE example_menu.isactive = %(isactive_1)s AND example_menu.kind = %(kind_1)s]
[parameters: {u’kind_1’: ‘BLACK’, u’isactive_1’: 1}]
(Background on this error at: http://sqlalche.me/e/e3q8)

错误原因

从字面理解,就是你连接的MySQL已经走人了,不在了。相当于你和另外一个人打电话,你一直没有挂电话,但是你把电话放一边了,直到你重新拎起电话想说点啥,才听到里面『嘟,嘟,嘟,嘟…』的挂机声,于是你就知道电话另一头的人已经gone away了。

线上碰到这个问题时,通常就是抛一个异常,然后(主动/被动)重新连接一下,你下次就重新执行一下要执行的语句就行。这就像你觉得有一番话非说不可,然后重新拨了个电话过去。

什么情况下会gone away?就像刚才说的,当你拿着一个电话太久,又不说话的时候,对面肯定就把你挂了;

当sqlalchemy与MySQL建立了一个连接,而sqlalchemy又不对这个连接执行任何(有含义)的语句,这个连接对于MySQL而言就处于sleep,当sleep了太久,MySQL就把连接一头关闭了(可能说了句"啥玩意儿")

这时,如果sqlalchemy在这个连接上尝试执行语句,就会出现gone away的错误。

conn.close() 是把连接放回连接池,不是真正的关闭;池子里的空闲连接在MySQL线程里sleep,长时间不操作,MySQL把连接一端关闭了,所以第二天SQLAlchemy再用这个连接的时候,抛出MySQL server has gone away…

解决方法

1. 设置SQLAlchemy的连接有效期,在MySQL关闭它之前,我先关闭它

因为scoped_session是threadlocal的,相同线程会用到相同的session,如果session还持有connection,从pool里checkout connection时不会进行过期的检查操作,直接使用,所以必须设置SQLAIchemy的有效期

SQLAlchemy连接池重新生成的周期默认为timeout是2小时,通过 SHOW VARIABLES 可以查看数据库配置的timeout时间(如下图所示),所以设置sqlalchemy的 "pool_recycle"参数小于360s,就会在数据库服务器断开连接之前,自己断开并重新生成连接

2. 在Web框架的层面,每次请求处理完毕时,显式地关闭session。

a. web框架显示关闭session的方法有很多,常规方法如下,在finally中主动关闭seession
b. Django和Flask都有middleware机制,可以在接收请求之前和处理完请求之后对session进行remove
c. Flask有一类修饰器hook,可以在请求后或请求前做一些事情,使用hook显示关闭session如下

了解其他hook修饰器:

before_first_request:注册一个函数,在处理第一个请求之前运行。
before_request:注册一个函数,在每次请求之前运行。
after_request:注册一个函数,如果没有未处理的异常抛出,在每次请求之后运行。
teardown_request:注册一个函数,即使有未处理的异常抛出,也在每次请求之后运行。
在使用session之前,先检查其有效性,无效则创建新的session以供使用

3. 在使用session之前,先检查其有效性,无效则创建新的session以供使用
在这里插入图片描述


拓展:类似问题 - Lost connection to mysql server during query

(使用的是Flask-SQLAlchemy)

一般由以下四种情况造成, 通过SHOW VARIABLES LIKE ‘’查看一下字段:

1、查询中大量数据被发送,由于数据传输时间不够导致,可以增加net_read_timeout的值。

net_read_timeout : mysql服务端从客户端读取(接收)数据时,服务端等待客户端响应的超时时间,当服务端正在从客户端读取数据时,net_read_timeout控制何时超时

2、初次连接时,连接时间设定太少,可以增加connect_timeout的值改善。

connect_timeout:在获取连接阶段(authenticate)起作用, 获取MySQL连接是多次握手的结果,除了用户名和密码的匹配校验外,还有IP->HOST->DNS->IP验证,任何一步都可能因为网络问题导致线程阻塞。为 了防止线程浪费在不必要的校验等待上,超过connect_timeout的连接请求将会被拒绝。

3、有些少见的情况可以show global status like 'aborted_connets',这个全局变量在每一次服务器终止时会增加1,查看"reading authorization packet"获取错误信息。

4、BLOB值太大的问题,调整配置文件max_allowed_packet

mysql根据配置文件会限制server接受的数据包大小。有时候大的插入和更新会被max_allowed_packet 参数限制掉,导致失败。


拓展:【Python】SQLAlchemy:session何时commit,何时close?

Engine 相当于一个创建连接的工厂,而不是连接本身。当使用conn.close()时,连接被放回到Engine的连接池当中,而不是真正的关闭了。

如果想要在调用conn.close()时,真正的关闭连接,可以使用poolclass=NullPool属性:

from sqlalchemy.pool import NullPool
db = create_engine('mysql://root@localhost/test_database', poolclass=NullPool)

拓展:初始问题 - 【Python】SQLAlchemy长时间未请求,数据库连接断开的原因、解决方案

一个基于apscheduler的定时任务,里面的任务使用了sqlalchemy,这个任务每天跑,但是第二天就连不上数据库

这篇关于【SQLAlchemy】MySQL server has gone away 原因分析、解决方法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/557141

相关文章

Linux换行符的使用方法详解

《Linux换行符的使用方法详解》本文介绍了Linux中常用的换行符LF及其在文件中的表示,展示了如何使用sed命令替换换行符,并列举了与换行符处理相关的Linux命令,通过代码讲解的非常详细,需要的... 目录简介检测文件中的换行符使用 cat -A 查看换行符使用 od -c 检查字符换行符格式转换将

Go标准库常见错误分析和解决办法

《Go标准库常见错误分析和解决办法》Go语言的标准库为开发者提供了丰富且高效的工具,涵盖了从网络编程到文件操作等各个方面,然而,标准库虽好,使用不当却可能适得其反,正所谓工欲善其事,必先利其器,本文将... 目录1. 使用了错误的time.Duration2. time.After导致的内存泄漏3. jsO

SpringBoot实现数据库读写分离的3种方法小结

《SpringBoot实现数据库读写分离的3种方法小结》为了提高系统的读写性能和可用性,读写分离是一种经典的数据库架构模式,在SpringBoot应用中,有多种方式可以实现数据库读写分离,本文将介绍三... 目录一、数据库读写分离概述二、方案一:基于AbstractRoutingDataSource实现动态

Java中的String.valueOf()和toString()方法区别小结

《Java中的String.valueOf()和toString()方法区别小结》字符串操作是开发者日常编程任务中不可或缺的一部分,转换为字符串是一种常见需求,其中最常见的就是String.value... 目录String.valueOf()方法方法定义方法实现使用示例使用场景toString()方法方法

Java中List的contains()方法的使用小结

《Java中List的contains()方法的使用小结》List的contains()方法用于检查列表中是否包含指定的元素,借助equals()方法进行判断,下面就来介绍Java中List的c... 目录详细展开1. 方法签名2. 工作原理3. 使用示例4. 注意事项总结结论:List 的 contain

MySQL双主搭建+keepalived高可用的实现

《MySQL双主搭建+keepalived高可用的实现》本文主要介绍了MySQL双主搭建+keepalived高可用的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,... 目录一、测试环境准备二、主从搭建1.创建复制用户2.创建复制关系3.开启复制,确认复制是否成功4.同

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Mysql表的简单操作(基本技能)

《Mysql表的简单操作(基本技能)》在数据库中,表的操作主要包括表的创建、查看、修改、删除等,了解如何操作这些表是数据库管理和开发的基本技能,本文给大家介绍Mysql表的简单操作,感兴趣的朋友一起看... 目录3.1 创建表 3.2 查看表结构3.3 修改表3.4 实践案例:修改表在数据库中,表的操作主要

macOS无效Launchpad图标轻松删除的4 种实用方法

《macOS无效Launchpad图标轻松删除的4种实用方法》mac中不在appstore上下载的应用经常在删除后它的图标还残留在launchpad中,并且长按图标也不会出现删除符号,下面解决这个问... 在 MACOS 上,Launchpad(也就是「启动台」)是一个便捷的 App 启动工具。但有时候,应

Linux samba共享慢的原因及解决方案

《Linuxsamba共享慢的原因及解决方案》:本文主要介绍Linuxsamba共享慢的原因及解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录linux samba共享慢原因及解决问题表现原因解决办法总结Linandroidux samba共享慢原因及解决