【Python】谈谈Python多线程

2024-08-29 10:32
文章标签 python 多线程 谈谈

本文主要是介绍【Python】谈谈Python多线程,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本文环境: Python 2.7.10 (CPython)。

文章目录

    • 一、GIL简介
    • 二、Python多线程是否鸡肋
      • 1. 为什么需要多线程呢?
      • 2. 计算密集型 vs. IO密集型
        • 计算密集型验证例子
      • 3.小结
    • 三、锁与线程安全
    • 四、总结
    • 参考资料:

  • 因为GIL的存在,Python多线程是否鸡肋?
  • 既然已有GIL,是否Python编程不需要关注线程安全的问题?不需要使用锁?
  • 为什么Python进阶材料很少有讲解多线程?

一、GIL简介

首先我们看下Global Interpreter Lock(GIL)的官方介绍:

In CPython, the global interpreter lock, or GIL, is a mutex that prevents multiple native threads from executing Python bytecodes at once. This lock is necessary mainly because CPython’s memory management is not thread-safe. (However, since the GIL exists, other features have grown to depend on the guarantees that it enforces.)

简而言之,因为CPython的内存管理不是线程安全的,所以需要加一个全局解释锁来保障Python内部对象是线程安全的。
GIL的存在导致Python多线程是不完整的多线程,Python社区内部对是否保留GIL一致激烈讨论,这里我们就不在累述。

二、Python多线程是否鸡肋

正如上节所说,Python的多线程是不完整的多线程。不过抛开具体应用场景谈“Python多线程是否鸡肋”就是耍流氓了!

1. 为什么需要多线程呢?

为什么需要多线程呢?总结一下,多线程多应用在如下场景:

  • 需要运行后台任务但不希望停止主线程的执行

    • 定期打印日志
    • 图形界面下,主循环需要等待事件
  • 分散任务负载

    • 高负载任务一般分计算密集型、IO密集型两类。

2. 计算密集型 vs. IO密集型

计算密集型任务的特点是要进行大量的计算,消耗CPU资源,比如计算圆周率、对视频进行高清解码等等,全靠CPU的运算能力。这种计算密集型任务虽然也可以用多任务完成,但是任务越多,花在任务切换的时间就越多,CPU执行任务的效率就越低,所以,要最高效地利用CPU,计算密集型任务同时进行的数量应当等于CPU的核心数。计算密集型任务由于主要消耗CPU资源,因此,代码运行效率至关重要。

IO密集型,涉及到网络、磁盘IO的任务都是IO密集型任务,这类任务的特点是CPU消耗很少,任务的大部分时间都在等待IO操作完成(因为IO的速度远远低于CPU和内存的速度)。对于IO密集型任务,任务越多,CPU效率越高,但也有一个限度。常见的大部分任务都是IO密集型任务,比如Web应用。IO密集型任务执行期间,99%的时间都花在IO上,花在CPU上的时间很少。

计算密集型验证例子

Python作为一门脚本语言,本身执行效率极低,完全不适合计算密集型任务的开发。再加上GIL的存在,需要花费大量时间用在线程间的切换,其多线程性能甚至低于单线程。以下是一个验证例子:
顺序执行的单线程(single_thread.py)

#! /usr/bin/pythonfrom threading import Thread
import timedef my_counter():i = 0for _ in range(100000000):i = i + 1return Truedef main():thread_array = {}start_time = time.time()for tid in range(2):t = Thread(target=my_counter)t.start()t.join()end_time = time.time()print("Total time: {}".format(end_time - start_time))if __name__ == '__main__':main()

同时执行的两个并发线程(multi_thread.py)

#! /usr/bin/pythonfrom threading import Thread
import timedef my_counter():i = 0for _ in range(100000000):i = i + 1return Truedef main():thread_array = {}start_time = time.time()for tid in range(2):t = Thread(target=my_counter)t.start()thread_array[tid] = tfor i in range(2):thread_array[i].join()end_time = time.time()print("Total time: {}".format(end_time - start_time))if __name__ == '__main__':main()

多线程执行更慢了!

经过大量测试,Python多线程下一般最多只能占用1.5~2核,完全无法充分利用CPU资源。

3.小结

在低计算场景(普通后台任务、IO密集型任务)下,Python多线程还是有一点用武之地。但是计算密集型任务的话,Python多线程是真鸡肋,甚至会严重拖后腿。

三、锁与线程安全

既然有GIL这个语言级的锁,那我们是不是可以不关注锁与线程安全,直接起飞了?

且看下面这个例子

#! /usr/bin/pythonimport threadingi = 0def test():global ifor x in range(100000):i += 1threads = [threading.Thread(target=test) for t in range(10)]
for t in threads:t.start()for t in threads:t.join()assert i == 100000, i

显然失败了。因为高级语言的一条语句执行时都是分为若干条执行码,即使一个简单的计算:i += 1,也是分为4个执行码。

  • load i
  • load 1
  • add
  • store it back to i

Python解释器默认每100个操作码切换一个活动线程(通过从一个线程释放GIL以便另一个线程可以使用)。当100个操作码切换时,就会出现争抢,从而出现线程不安全的情况。此时就需要我们加一个简单的锁。

#!/usr/bin/python
import threading
i = 0
i_lock = threading.Lock()def test():global ii_lock.acquire()try:for x in range(100000):i += 1finally:i_lock.release()threads = [threading.Thread(target=test) for t in range(10)]
for t in threads:t.start()for t in threads:t.join()assert i == 100000, i

四、总结

相比Java那种天生面向多线程的语言不同,Python本身多线程就是不太完善的多线程。GIL的存在导致多线程CPU利用效率甚至低于单线程,却仍然要面对锁与线程安全的问题。同时Python语言又不像Java自带多种线程安全的数据类型,增加了多线程编程的复杂度,所以很少有资料大篇幅讲解Python多线程。
正如《Python高手之路》所言: (Python)处理好多线程是很难的,其复杂程度意味着与其他方式(异步事件\多进程)相比它是bug的更大来源,而且考虑到通常能够获取的好处很少,所以最好不要在多线程上浪费太多精力。

参考资料:

python中的GIL详解
is-the-operator-thread-safe-in-python
《Python高手之路》(《The Hacker’s Guide to Python》)

这篇关于【Python】谈谈Python多线程的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1117602

相关文章

Python如何使用__slots__实现节省内存和性能优化

《Python如何使用__slots__实现节省内存和性能优化》你有想过,一个小小的__slots__能让你的Python类内存消耗直接减半吗,没错,今天咱们要聊的就是这个让人眼前一亮的技巧,感兴趣的... 目录背景:内存吃得满满的类__slots__:你的内存管理小助手举个大概的例子:看看效果如何?1.

Python+PyQt5实现多屏幕协同播放功能

《Python+PyQt5实现多屏幕协同播放功能》在现代会议展示、数字广告、展览展示等场景中,多屏幕协同播放已成为刚需,下面我们就来看看如何利用Python和PyQt5开发一套功能强大的跨屏播控系统吧... 目录一、项目概述:突破传统播放限制二、核心技术解析2.1 多屏管理机制2.2 播放引擎设计2.3 专

Python中随机休眠技术原理与应用详解

《Python中随机休眠技术原理与应用详解》在编程中,让程序暂停执行特定时间是常见需求,当需要引入不确定性时,随机休眠就成为关键技巧,下面我们就来看看Python中随机休眠技术的具体实现与应用吧... 目录引言一、实现原理与基础方法1.1 核心函数解析1.2 基础实现模板1.3 整数版实现二、典型应用场景2

Python实现无痛修改第三方库源码的方法详解

《Python实现无痛修改第三方库源码的方法详解》很多时候,我们下载的第三方库是不会有需求不满足的情况,但也有极少的情况,第三方库没有兼顾到需求,本文将介绍几个修改源码的操作,大家可以根据需求进行选择... 目录需求不符合模拟示例 1. 修改源文件2. 继承修改3. 猴子补丁4. 追踪局部变量需求不符合很

python+opencv处理颜色之将目标颜色转换实例代码

《python+opencv处理颜色之将目标颜色转换实例代码》OpenCV是一个的跨平台计算机视觉库,可以运行在Linux、Windows和MacOS操作系统上,:本文主要介绍python+ope... 目录下面是代码+ 效果 + 解释转HSV: 关于颜色总是要转HSV的掩膜再标注总结 目标:将红色的部分滤

Python 中的异步与同步深度解析(实践记录)

《Python中的异步与同步深度解析(实践记录)》在Python编程世界里,异步和同步的概念是理解程序执行流程和性能优化的关键,这篇文章将带你深入了解它们的差异,以及阻塞和非阻塞的特性,同时通过实际... 目录python中的异步与同步:深度解析与实践异步与同步的定义异步同步阻塞与非阻塞的概念阻塞非阻塞同步

Python Dash框架在数据可视化仪表板中的应用与实践记录

《PythonDash框架在数据可视化仪表板中的应用与实践记录》Python的PlotlyDash库提供了一种简便且强大的方式来构建和展示互动式数据仪表板,本篇文章将深入探讨如何使用Dash设计一... 目录python Dash框架在数据可视化仪表板中的应用与实践1. 什么是Plotly Dash?1.1

在C#中调用Python代码的两种实现方式

《在C#中调用Python代码的两种实现方式》:本文主要介绍在C#中调用Python代码的两种实现方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录C#调用python代码的方式1. 使用 Python.NET2. 使用外部进程调用 Python 脚本总结C#调

Python下载Pandas包的步骤

《Python下载Pandas包的步骤》:本文主要介绍Python下载Pandas包的步骤,在python中安装pandas库,我采取的方法是用PIP的方法在Python目标位置进行安装,本文给大... 目录安装步骤1、首先找到我们安装python的目录2、使用命令行到Python安装目录下3、我们回到Py

Python GUI框架中的PyQt详解

《PythonGUI框架中的PyQt详解》PyQt是Python语言中最强大且广泛应用的GUI框架之一,基于Qt库的Python绑定实现,本文将深入解析PyQt的核心模块,并通过代码示例展示其应用场... 目录一、PyQt核心模块概览二、核心模块详解与示例1. QtCore - 核心基础模块2. QtWid