python 基础知识梳理——GIL(全局解释器锁)

2024-05-31 01:32

本文主要是介绍python 基础知识梳理——GIL(全局解释器锁),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

python 基础知识梳理——GIL(全局解释器锁)


1. 引言

之前的博文中,整理了关于Python中的多进程、多线程,还有协程的基本使用,当时我们就讨论过,Python中的多线程其实并不是"真正"的多线程,为什么呢?这就和GIL离不开关系了,下面我们通过几个列子来看一看Python中的GIL是如何影响Python中多线程的使用的。

1.1 为什么变慢了?

import time
def Countnumber(n):while n > 0:n -= 1
start = time.time()
Countnumber(100000000)
end = time.time()
print('运行时间为:{}秒'.format(end-start))
# 输出
运行时间为:6.358428239822388

在我这台2015 early MacBook Pro13单线程的情况下,运行时间为6.3秒,下面我们使用多线程来加速:

import time
import threading
N = 100000000
def Countnumber(n):while n > 0:n -= 1start = time.time()
t1 = threading.Thread(target=Countnumber,args=[N // 2 ])
t2 = threading.Thread(target=Countnumber,args=[N // 2 ])
t3 = threading.Thread(target=Countnumber,args=[N // 2 ])
t4 = threading.Thread(target=Countnumber,args=[N // 2 ])
t1.start()
t2.start()
t3.start()
t4.start()
t1.join()
t2.join()
t3.join()
t4.join()
end = time.time()
print('运行时间为:{}秒'.format(end-start))
# 输出
运行时间为:12.465165138244629

我们用了4个线程,没想到时间居然变成了之前的2倍,足足12秒?

2. GIL

其实,我们增加了多线程而速度却变慢的原因是由于GIL,导致Python线程的性能并不能达到我们所期待的那样。

GIL是Python自带解释器,也是最流行的Python解释器CPython中的一个技术,它的中文名为:全局解释器锁,每个Python线程,在CPython解释器中执行的时候,都会先锁住自己的线程,阻止别的线程执行。

而且,CPython会假装轮流执行Python线程,让我们看起来以为Python中的线程是在交错执行。

那为什么CPython为什么要使用GIL呢?其实这涉及到Python中的垃圾回收机制的引用计数。

Python的垃圾回收机制是以引用计数为主,标记-清除和分代回收为辅的策略。

import sys
a = []
b = a
print(sys.getrefcount(a))
# 输出
3 

输出为a的引用计数 3 ,因为a、b和作为参数传递的getrefcount这三个地方都引用了一个空列表。回到刚刚我们使用的多线程,如果两个Python线程同时引用了a,那么就会造成引用计数的race condition(竞争),引用计数可能只会增加1,当第一个线程访问结束后,会把引用计数减少1,这时可能会达到条件释放内存,当第二个线程再想访问a时,就找不到有效的内存了(引用计数为0会被回收)。

所以说,CPython引用GIl其实主要是两个原因:

  • 为了规避内存管理的race condition(竞争)问题
  • 顾名思义,CPython就是使用C解释Python语言,而大部分C语言库都不是原生线程安全的

3. GIl是如何工作的?

2020-12-25 031713

如图,当Thread1、2、3轮流执行的时候,每一个线程会在开始执行时,锁住GIL,以阻止别的线程执行;当该线程执行完成后会释放GIL,以便其他线程可以开始执行。

CPython中的check_interval机制会轮训检查线程GIL的锁情况,每隔一段时间,Python解释器就会强制当前的线程去释放GIL,这样别的线程才能有机会去执行。

Python3中,CPython会在一个“合理”的范围内释放GIL(以Python3为例,interval的时间大概是15毫秒)

2020-12-25 031700

从底层代码中,我们可以一探究竟,基本上每一个Python都是类似于这样的循环封装:

for (;;) {if (--ticker < 0) {ticker = check_interval;/* Give another thread a chance */PyThread_release_lock(interpreter_lock);/* Other threads may run now */PyThread_acquire_lock(interpreter_lock, 1);}bytecode = *next_instr++;switch (bytecode) {/* execute the next instruction ... */ }
}

很显然,Python的每个线程都会检查ticker计数,只有ticker计数大于0的情况下,线程才会去执行自己的byetecode

4. Python的线程安全

之前我们谈论到多线程的时候,经常会说,要使用threading.lock()先锁住一个共享变量,当修改完成后再给其他线程使用?

这是因为,GIL仅允许一个Python线程执行,不意味着Python的线程就是完全安全的。

下面我们参考一段代码:

import threadingn = 0
def foo():global nn += 1threads = []
for i in range(1000):t = threading.Thread(target=foo)threads.append(t)
for t in threads:t.start()
for t in threads:t.join()
print(n)
import dis
print(dis.dis(foo))
# 输出6           0 LOAD_GLOBAL              0 (n)2 LOAD_CONST               1 (1)4 INPLACE_ADD6 STORE_GLOBAL             0 (n)8 LOAD_CONST               0 (None)10 RETURN_VALUE
None

大部分情况下,输出结果都是1000,但是也有可能是999、998,这是因为n += 1这一行代码让线程并不安全。

当我们通过dis.dis()打印foo()这个函数的bytecode的时候,就会发现这6行的bytecode中间都是可能被打断的。

所以,我们可以使用threading.Lock()来确保线程安全

n = 0
lock = threading.Lock()
def foo():global nwith lock:n += 1

5. 如何绕过GIL?

加入你曾经看过我之前的博文,一定会对%time魔术方法印象深刻,这是我常用的一款基于iPython解释器的jupyter notebook上的一种输出函数运行时间的方法,它的解释器就并不是CPython,那么就不受GIL的影响了。

事实上,如果你是深度学习或者机器学习乃至数据分析,人工智能相关专业的同学,那么你一定不会对NumPy陌生,这样的矩阵运算库底层也是用C实现的,且不受GIL的影响。

说了那么多,你会不会感觉我在说废话?其实,绕过GIL的大致思路就是两种:

  • 绕过CPython,使用IPython或者JPython(Java实现的Python解释器)等解释器实现;
  • 把对于性能要求高的代码,放到别的语言中实现;

6.奇怪的想法

import time
import multiprocessing
N = 100000000
def Countnumber(n):while n > 0:n -= 1start = time.time()
t1 = multiprocessing.Process(target=Countnumber,args=[N // 2])
t2 = multiprocessing.Process(target=Countnumber,args=[N // 2])t1.start()
t2.start()t1.join()
t2.join()end = time.time()
print('运行时间为:{}秒'.format(end-start))
# 输出
运行时间为:3.4095828533172607

居然使用多进程,速度就快了一倍?






博文的后续更新,请关注我的个人博客:星尘博客

这篇关于python 基础知识梳理——GIL(全局解释器锁)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1017203

相关文章

Python中局部变量和全局变量举例详解

《Python中局部变量和全局变量举例详解》:本文主要介绍如何通过一个简单的Python代码示例来解释命名空间和作用域的概念,它详细说明了内置名称、全局名称、局部名称以及它们之间的查找顺序,文中通... 目录引入例子拆解源码运行结果如下图代码解析 python3命名空间和作用域命名空间命名空间查找顺序命名空

Python如何将大TXT文件分割成4KB小文件

《Python如何将大TXT文件分割成4KB小文件》处理大文本文件是程序员经常遇到的挑战,特别是当我们需要把一个几百MB甚至几个GB的TXT文件分割成小块时,下面我们来聊聊如何用Python自动完成这... 目录为什么需要分割TXT文件基础版:按行分割进阶版:精确控制文件大小完美解决方案:支持UTF-8编码

基于Python打造一个全能文本处理工具

《基于Python打造一个全能文本处理工具》:本文主要介绍一个基于Python+Tkinter开发的全功能本地化文本处理工具,它不仅具备基础的格式转换功能,更集成了中文特色处理等实用功能,有需要的... 目录1. 概述:当文本处理遇上python图形界面2. 功能全景图:六大核心模块解析3.运行效果4. 相

Python中的魔术方法__new__详解

《Python中的魔术方法__new__详解》:本文主要介绍Python中的魔术方法__new__的使用,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、核心意义与机制1.1 构造过程原理1.2 与 __init__ 对比二、核心功能解析2.1 核心能力2.2

Python虚拟环境终极(含PyCharm的使用教程)

《Python虚拟环境终极(含PyCharm的使用教程)》:本文主要介绍Python虚拟环境终极(含PyCharm的使用教程),具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,... 目录一、为什么需要虚拟环境?二、虚拟环境创建方式对比三、命令行创建虚拟环境(venv)3.1 基础命令3

Python Transformer 库安装配置及使用方法

《PythonTransformer库安装配置及使用方法》HuggingFaceTransformers是自然语言处理(NLP)领域最流行的开源库之一,支持基于Transformer架构的预训练模... 目录python 中的 Transformer 库及使用方法一、库的概述二、安装与配置三、基础使用:Pi

Python 中的 with open文件操作的最佳实践

《Python中的withopen文件操作的最佳实践》在Python中,withopen()提供了一个简洁而安全的方式来处理文件操作,它不仅能确保文件在操作完成后自动关闭,还能处理文件操作中的异... 目录什么是 with open()?为什么使用 with open()?使用 with open() 进行

Python中使用正则表达式精准匹配IP地址的案例

《Python中使用正则表达式精准匹配IP地址的案例》Python的正则表达式(re模块)是完成这个任务的利器,但你知道怎么写才能准确匹配各种合法的IP地址吗,今天我们就来详细探讨这个问题,感兴趣的朋... 目录为什么需要IP正则表达式?IP地址的基本结构基础正则表达式写法精确匹配0-255的数字验证IP地

使用Python实现全能手机虚拟键盘的示例代码

《使用Python实现全能手机虚拟键盘的示例代码》在数字化办公时代,你是否遇到过这样的场景:会议室投影电脑突然键盘失灵、躺在沙发上想远程控制书房电脑、或者需要给长辈远程协助操作?今天我要分享的Pyth... 目录一、项目概述:不止于键盘的远程控制方案1.1 创新价值1.2 技术栈全景二、需求实现步骤一、需求

Python 迭代器和生成器概念及场景分析

《Python迭代器和生成器概念及场景分析》yield是Python中实现惰性计算和协程的核心工具,结合send()、throw()、close()等方法,能够构建高效、灵活的数据流和控制流模型,这... 目录迭代器的介绍自定义迭代器省略的迭代器生产器的介绍yield的普通用法yield的高级用法yidle