python基础-Manager进程数据共享、进程互斥锁数据非共享、线程互斥锁数据共享

本文主要是介绍python基础-Manager进程数据共享、进程互斥锁数据非共享、线程互斥锁数据共享,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

      • 线程数据共享无io
      • 线程数据共享有io
      • 线程锁数据共享
      • 进程锁数据非共享
      • 进程锁数据共享

1.线程抢的是GIL锁,GIL锁相当于执行权限,拿到执行权限后才能拿到互斥锁Lock,其他线程也可以抢到GIL,但如果发现Lock仍然没有被释放则阻塞,即便是拿到执行权限GIL也要立刻交出来

2.join是等待所有,即整体串行,而锁只是锁住修改共享数据的部分,即部分串行,要想保证数据安全的根本原理在于让并发变成串行,join与互斥锁都可以实现,毫无疑问,互斥锁的部分串行效率要更高

机智的同学可能会问到这个问题,就是既然你之前说过了,Python已经有一个GIL来保证同一时间只能有一个线程来执行了,为什么这里还需要lock? 

 首先我们需要达成共识:锁的目的是为了保护共享的数据,同一时间只能有一个线程来修改共享的数据

然后,我们可以得出结论:保护不同的数据就应该加不同的锁。

 最后,问题就很明朗了,GIL 与Lock是两把锁,保护的数据不一样,前者是解释器级别的(当然保护的就是解释器级别的数据,比如垃圾回收的数据),后者是保护用户自己开发的应用程序的数据,很明显GIL不负责这件事,只能用户自定义加锁处理,即Lock

过程分析:所有线程抢的是GIL锁,或者说所有线程抢的是执行权限

  线程1抢到GIL锁,拿到执行权限,开始执行,然后加了一把Lock,还没有执行完毕,即线程1还未释放Lock,有可能线程2抢到GIL锁,开始执行,执行过程中发现Lock还没有被线程1释放,于是线程2进入阻塞,被夺走执行权限,有可能线程1拿到GIL,然后正常执行到释放Lock。。。这就导致了串行运行的效果

  既然是串行,那我们执行

  t1.start()

  t1.join

  t2.start()

  t2.join()

  这也是串行执行啊,为何还要加Lock呢,需知join是等待t1所有的代码执行完,相当于锁住了t1的所有代码,而Lock只是锁住一部分操作共享数据的代码。

线程数据共享(无io)

from threading import Thread,Lock
import time
n=100def task():global ntemp=nn=temp-1if __name__ == '__main__':mutex=Lock()t_l=[]for i in range(10):t=Thread(target=task)t_l.append(t)t.start()for t in t_l:t.join()print(n)

输出结果:

90

在没有枷锁的情况下,是效率最高的,直接共同修改数据结果为90,但是有个情况,就是会使数据错乱,我们来看下线程锁的情况

线程数据共享(有io)

我们在上面的代码加入time.sleep(0.5)这行看看输出结果是什么?


from threading import Thread,Lock
import time
n=100def task():global ntemp=ntime.sleep(0.5)n=temp-1if __name__ == '__main__':mutex=Lock()t_l=[]for i in range(10):t=Thread(target=task)t_l.append(t)t.start()for t in t_l:t.join()print(n)

输出

99

在time.sleep(0.5)之前,各个线程已经拿到n=100值了,然后sleep之后,就没又获取新的temp值,然后利用n=temp-1,拿到n值99

线程锁数据共享

我们把上篇博客线程锁代码拿过来

from threading import Thread,Lock
import time
n=100def task():global nmutex.acquire()temp=ntime.sleep(0.1)n=temp-1mutex.release()if __name__ == '__main__':mutex=Lock()t_l=[]for i in range(10):t=Thread(target=task)t_l.append(t)t.start()for t in t_l:t.join()print(n)

输出如下:

90

如上是意思就是启动10个子线程,然后为10个子线程分别加线程互斥锁,操作变量n,然后在各个子线程执行完毕,在输出n的值为90,说明改变了共享变量n

由于多个线程公用一块内存,可以实现资源共享

1.10个线程去抢GIL锁,即抢执行权限
2. 肯定有一个线程先抢到GIL(暂且称为线程1),然后开始执行,一旦执行就会拿到lock.acquire()
3. 极有可能线程1还未运行完毕,就有另外一个线程2抢到GIL,然后开始运行,但线程2发现互斥锁lock还未被线程1释放,于是阻塞,被迫交出执行权限,即释放GIL
4.直到线程1重新抢到GIL,开始从上次暂停的位置继续执行,直到正常释放互斥锁lock,然后其他的线程再重复2 3 4的过程

进程锁数据非共享

from multiprocessing import Process,Lock
import time
n=100def task(mutex):global nmutex.acquire()temp=ntime.sleep(0.1)n=temp-1mutex.release()if __name__ == '__main__':mutex=Lock()t_l=[]for i in range(10):t=Process(target=task,args=(mutex,))t_l.append(t)t.start()for t in t_l:t.join()print(n)

输出:

100

由于是启动了10 个进程,那么就开辟了10快内存空间,每个进程会在自己内存空间操作变量n,但是最后print(n)是输出的主进程的n值,所以子进程没有操作修改主进程的n值,所以输出100

进程锁数据共享

那么我们如何通过进程修改呢?
进程间数据是独立的,可以借助于队列或管道实现通信,二者都是基于消息传递的
我们篇幅博客在了解学习

虽然进程间数据独立,但可以通过Manager实现数据共享,事实上Manager的功能远不止于此
Manager支持的类型有list,dict,Namespace,Lock,RLock,Semaphore,BoundedSemaphore,Condition,Event,Queue,Value和Array。

from multiprocessing import Manager,Process,Lock
import os
def work(d,lock):with lock: #不加锁而操作共享的数据,肯定会出现数据错乱d['count']-=1if __name__ == '__main__':lock=Lock()with Manager() as m:dic=m.dict({'count':10})p_l=[]for i in range(10):p=Process(target=work,args=(dic,lock))p_l.append(p)p.start()for p in p_l:p.join()print(dic)

输出如下:

{'count': 0}

这篇关于python基础-Manager进程数据共享、进程互斥锁数据非共享、线程互斥锁数据共享的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1125196

相关文章

Python如何使用__slots__实现节省内存和性能优化

《Python如何使用__slots__实现节省内存和性能优化》你有想过,一个小小的__slots__能让你的Python类内存消耗直接减半吗,没错,今天咱们要聊的就是这个让人眼前一亮的技巧,感兴趣的... 目录背景:内存吃得满满的类__slots__:你的内存管理小助手举个大概的例子:看看效果如何?1.

Python+PyQt5实现多屏幕协同播放功能

《Python+PyQt5实现多屏幕协同播放功能》在现代会议展示、数字广告、展览展示等场景中,多屏幕协同播放已成为刚需,下面我们就来看看如何利用Python和PyQt5开发一套功能强大的跨屏播控系统吧... 目录一、项目概述:突破传统播放限制二、核心技术解析2.1 多屏管理机制2.2 播放引擎设计2.3 专

Python中随机休眠技术原理与应用详解

《Python中随机休眠技术原理与应用详解》在编程中,让程序暂停执行特定时间是常见需求,当需要引入不确定性时,随机休眠就成为关键技巧,下面我们就来看看Python中随机休眠技术的具体实现与应用吧... 目录引言一、实现原理与基础方法1.1 核心函数解析1.2 基础实现模板1.3 整数版实现二、典型应用场景2

Python实现无痛修改第三方库源码的方法详解

《Python实现无痛修改第三方库源码的方法详解》很多时候,我们下载的第三方库是不会有需求不满足的情况,但也有极少的情况,第三方库没有兼顾到需求,本文将介绍几个修改源码的操作,大家可以根据需求进行选择... 目录需求不符合模拟示例 1. 修改源文件2. 继承修改3. 猴子补丁4. 追踪局部变量需求不符合很

MySQL大表数据的分区与分库分表的实现

《MySQL大表数据的分区与分库分表的实现》数据库的分区和分库分表是两种常用的技术方案,本文主要介绍了MySQL大表数据的分区与分库分表的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有... 目录1. mysql大表数据的分区1.1 什么是分区?1.2 分区的类型1.3 分区的优点1.4 分

Mysql删除几亿条数据表中的部分数据的方法实现

《Mysql删除几亿条数据表中的部分数据的方法实现》在MySQL中删除一个大表中的数据时,需要特别注意操作的性能和对系统的影响,本文主要介绍了Mysql删除几亿条数据表中的部分数据的方法实现,具有一定... 目录1、需求2、方案1. 使用 DELETE 语句分批删除2. 使用 INPLACE ALTER T

Spring Boot3虚拟线程的使用步骤详解

《SpringBoot3虚拟线程的使用步骤详解》虚拟线程是Java19中引入的一个新特性,旨在通过简化线程管理来提升应用程序的并发性能,:本文主要介绍SpringBoot3虚拟线程的使用步骤,... 目录问题根源分析解决方案验证验证实验实验1:未启用keep-alive实验2:启用keep-alive扩展建

python+opencv处理颜色之将目标颜色转换实例代码

《python+opencv处理颜色之将目标颜色转换实例代码》OpenCV是一个的跨平台计算机视觉库,可以运行在Linux、Windows和MacOS操作系统上,:本文主要介绍python+ope... 目录下面是代码+ 效果 + 解释转HSV: 关于颜色总是要转HSV的掩膜再标注总结 目标:将红色的部分滤

Python 中的异步与同步深度解析(实践记录)

《Python中的异步与同步深度解析(实践记录)》在Python编程世界里,异步和同步的概念是理解程序执行流程和性能优化的关键,这篇文章将带你深入了解它们的差异,以及阻塞和非阻塞的特性,同时通过实际... 目录python中的异步与同步:深度解析与实践异步与同步的定义异步同步阻塞与非阻塞的概念阻塞非阻塞同步

Python Dash框架在数据可视化仪表板中的应用与实践记录

《PythonDash框架在数据可视化仪表板中的应用与实践记录》Python的PlotlyDash库提供了一种简便且强大的方式来构建和展示互动式数据仪表板,本篇文章将深入探讨如何使用Dash设计一... 目录python Dash框架在数据可视化仪表板中的应用与实践1. 什么是Plotly Dash?1.1