Python 中用线程执行阻塞式 I/O,不做并行计算

2024-09-01 03:36

本文主要是介绍Python 中用线程执行阻塞式 I/O,不做并行计算,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Python 中用线程执行阻塞式 I/O,不做并行计算

尽管 Python 也支持多线程,但这些线程受 GIL(global interpreter lock,全局解释器锁) 约束,所以每次或许只能有一条线程向前推进,而无法实现多头并进。既然有这么多限制,那 Python 还支持多线程干什么?

首先,这种机制让我们很容易就能实现出一种效果,也就是令人感觉程序似乎能在同一时间做许多件事。这样的效果采用手工方式很难编写​,而通过线程来实现,则可以让 Python 自动替我们把这些问题处理好,让多项任务能够并发地执行。

其次,可以通过 Python 的多线程机制处理阻塞式的 I/O 任务,因为线程在执行某些系统调用的过程中会发生阻塞,假如只支持一条线程,那么整个程序就会卡在这里不动。Python 程序需要通过系统调用与外部环境交互,其中有一些调用属于阻塞式的 I/O 操作,例如读取文件、写入文件、联网以及与显示器等设备交互。多线程机制可以让程序中的其他线程继续执行各自的工作,只有发起调用请求的那条线程才需要卡在那里等待操作系统给出结果。

1.看一看用线程做并行计算。

例如,要用 Python 程序执行一批计算量很大的任务。以最原始的办法实现这样一个因数分解算法,以模拟这种任务。

def factorize(number):for i in range(1, number + 1):if number % i == 0:yield i

试着分解几个数。如果必须把上一个数分解完才能开始分解下一个数,那么程序花的时间就比较长。

import timedef factorize(number):for i in range(1, number + 1):if number % i == 0:yield inumbers = [2139079, 1214759, 1516637, 1852285]
start = time.time()for number in numbers:list(factorize(number))end = time.time()
delta = end - start
print(f'Took {delta:.3f} seconds')# >>>
# Took 0.266 seconds

让每条线程各自分解一个数或许可以把计算机中的多个 CPU 核心充分利用起来。这种想法对于其他语言来说,可能有些道理,但是在 Python 中效果如何呢?试着定义这样一种 Python 线程,让它完成与刚才相同的因数分解任务。

from threading import Threadclass FactorizeThread(Thread):def __init__(self, number):super().__init__()self.number = numberdef run(self):self.factors = list(factorize(self.number))

然后,针对每个待分解的数字都启动这样一条线程,让它们平行地运行下去。

start = time.time()threads = []
for number in numbers:thread = FactorizeThread(number)thread.start()threads.append(thread)

最后,等待所有线程执行完毕。

for thread in threads:thread.join()end = time.time()
delta = end - start
print(f'Took {delta:.3f} seconds')# >>>
# Took 0.277 seconds

奇怪的是,这样做竟然比一个一个去分解还要慢,没有把多核心的优势发挥出来。理论上像这样令 4 条线程分别执行各自的任务,应该比一条线程连续执行 4 份任务要快得多。这是因为,这种多线程的程序在标准的 CPython 解释器之中会受 GIL 牵制,例如 CPython 要通过 GIL 防止这些线程争抢全局锁,而且要花一些时间来协调。

2.再来看一看用线程执行阻塞式 I/O。

例如,要通过串口(serial port)向遥控直升机发送信号。以 select 这个系统调用来模拟这项操作。通过 select 函数让操作系统阻塞 0.1 秒,然后把控制权返还给本程序,这样就模拟出了使用串口通信的效果。

import select
import socketdef slow_systemcall():select.select([socket.socket()], [], [], 0.1)

通过这种方式依次执行系统调用,程序的执行时间会随着调用次数而上升。

start = time.time()for _ in range(5):slow_systemcall()end = time.time()
delta = end - start
print(f'Took {delta:.3f} seconds')# >>>
# Took 0.541 seconds

这样写有个问题,就是程序在执行 slow_systemcall 函数的过程中会彻底卡住,因为它的主线程会阻塞在 select 这里。在实际的程序里面,这是个相当糟糕的现象,因为向直升机发送信号的同时,还需要计算接下来的移动方式,不然直升机就会坠毁。所以,如果在执行阻塞式 I/O 的过程中还需要做计算,那么应该把系统调用放到另一条线程执行。下面把 slow_systemcall 放在单独的线程里调用,这样能同时触发多项操作,于是可以在与多个串口(乃至多个直升机)通信的同时,在主线程里做其他必要的运算。

start = time.time()
threads = []
for _ in range(5):thread = Thread(target=slow_systemcall)thread.start()threads.append(thread)

将 5 条线程启动之后,主线程可以先去计算直升机接下来的移动方式,然后再去等待那 5 条线程把各自的系统调用执行完毕。

def compute_helicopter_location(index):...for i in range(5):compute_helicopter_location(i)for thread in threads:thread.join()end = time.time()
delta = end - start
print(f'Took {delta:.3f} seconds')# >>>
# Took 0.109 seconds

与依次执行系统调用的那种写法相比,这种写法的速度几乎能达到原来的 5 倍。这说明,尽管那 5 条线程依然受 GIL 制约,但它们所发起的系统调用是可以各自向前执行的。GIL 只不过是让 Python 内部的代码无法平行推进而已,至于系统调用,则不会受到影响,因为 Python 线程在即将执行系统调用时,会释放 GIL,待完成调用之后,才会重新获取它。

用多线程处理阻塞式 I/O 是最简单的,多条 Python 线程可以并行地执行多个系统调用,这样就能让程序在执行阻塞式的 I/O 任务时,继续做其他运算。

这篇关于Python 中用线程执行阻塞式 I/O,不做并行计算的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1125829

相关文章

python: 多模块(.py)中全局变量的导入

文章目录 global关键字可变类型和不可变类型数据的内存地址单模块(单个py文件)的全局变量示例总结 多模块(多个py文件)的全局变量from x import x导入全局变量示例 import x导入全局变量示例 总结 global关键字 global 的作用范围是模块(.py)级别: 当你在一个模块(文件)中使用 global 声明变量时,这个变量只在该模块的全局命名空

【Python编程】Linux创建虚拟环境并配置与notebook相连接

1.创建 使用 venv 创建虚拟环境。例如,在当前目录下创建一个名为 myenv 的虚拟环境: python3 -m venv myenv 2.激活 激活虚拟环境使其成为当前终端会话的活动环境。运行: source myenv/bin/activate 3.与notebook连接 在虚拟环境中,使用 pip 安装 Jupyter 和 ipykernel: pip instal

【机器学习】高斯过程的基本概念和应用领域以及在python中的实例

引言 高斯过程(Gaussian Process,简称GP)是一种概率模型,用于描述一组随机变量的联合概率分布,其中任何一个有限维度的子集都具有高斯分布 文章目录 引言一、高斯过程1.1 基本定义1.1.1 随机过程1.1.2 高斯分布 1.2 高斯过程的特性1.2.1 联合高斯性1.2.2 均值函数1.2.3 协方差函数(或核函数) 1.3 核函数1.4 高斯过程回归(Gauss

【学习笔记】 陈强-机器学习-Python-Ch15 人工神经网络(1)sklearn

系列文章目录 监督学习:参数方法 【学习笔记】 陈强-机器学习-Python-Ch4 线性回归 【学习笔记】 陈强-机器学习-Python-Ch5 逻辑回归 【课后题练习】 陈强-机器学习-Python-Ch5 逻辑回归(SAheart.csv) 【学习笔记】 陈强-机器学习-Python-Ch6 多项逻辑回归 【学习笔记 及 课后题练习】 陈强-机器学习-Python-Ch7 判别分析 【学

nudepy,一个有趣的 Python 库!

更多资料获取 📚 个人网站:ipengtao.com 大家好,今天为大家分享一个有趣的 Python 库 - nudepy。 Github地址:https://github.com/hhatto/nude.py 在图像处理和计算机视觉应用中,检测图像中的不适当内容(例如裸露图像)是一个重要的任务。nudepy 是一个基于 Python 的库,专门用于检测图像中的不适当内容。该

maven 编译构建可以执行的jar包

💝💝💝欢迎莅临我的博客,很高兴能够在这里和您见面!希望您在这里可以感受到一份轻松愉快的氛围,不仅可以获得有趣的内容和知识,也可以畅所欲言、分享您的想法和见解。 推荐:「stormsha的主页」👈,「stormsha的知识库」👈持续学习,不断总结,共同进步,为了踏实,做好当下事儿~ 专栏导航 Python系列: Python面试题合集,剑指大厂Git系列: Git操作技巧GO

pip-tools:打造可重复、可控的 Python 开发环境,解决依赖关系,让代码更稳定

在 Python 开发中,管理依赖关系是一项繁琐且容易出错的任务。手动更新依赖版本、处理冲突、确保一致性等等,都可能让开发者感到头疼。而 pip-tools 为开发者提供了一套稳定可靠的解决方案。 什么是 pip-tools? pip-tools 是一组命令行工具,旨在简化 Python 依赖关系的管理,确保项目环境的稳定性和可重复性。它主要包含两个核心工具:pip-compile 和 pip

HTML提交表单给python

python 代码 from flask import Flask, request, render_template, redirect, url_forapp = Flask(__name__)@app.route('/')def form():# 渲染表单页面return render_template('./index.html')@app.route('/submit_form',

jenkins 插件执行shell命令时,提示“Command not found”处理方法

首先提示找不到“Command not found,可能我们第一反应是查看目标机器是否已支持该命令,不过如果相信能找到这里来的朋友估计遇到的跟我一样,其实目标机器是没有问题的通过一些远程工具执行shell命令是可以执行。奇怪的就是通过jenkinsSSH插件无法执行,经一番折腾各种搜索发现是jenkins没有加载/etc/profile导致。 【解决办法】: 需要在jenkins调用shell脚

线程的四种操作

所属专栏:Java学习        1. 线程的开启 start和run的区别: run:描述了线程要执行的任务,也可以称为线程的入口 start:调用系统函数,真正的在系统内核中创建线程(创建PCB,加入到链表中),此处的start会根据不同的系统,分别调用不同的api,创建好之后的线程,再单独去执行run(所以说,start的本质是调用系统api,系统的api