python基础-线程创建、线程池、进\线程异步回调(add_done_callback)、进\线程数据共享、ftp线程池

2024-08-31 22:38
文章标签 python 基础 线程 创建 异步 数据共享 ftp 回调 add done callback

本文主要是介绍python基础-线程创建、线程池、进\线程异步回调(add_done_callback)、进\线程数据共享、ftp线程池，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

      • 线程创建
      • 线程进程pid
      • 线程进程数据共享
      • 线程ftp
      • 线程池
      • 线程池ftp
      • 线程的一些其他方法
      • 异步-回调函数
        • ProcessPoolExecutor方式
        • ThreadPoolExecutor方式

线程创建

进程只是用来把资源集中到一起（进程只是一个资源单位，或者说资源集合），而线程才是cpu上的执行单位。
每个进程有一个地址空间，而且默认就有一个控制线程
线程就是一条流水线工作的过程，一条流水线必须属于一个车间，一个车间的工作过程是一个进程

多线程（即多个控制线程）的概念是，在一个进程中存在多个控制线程，多个控制线程共享该进程的地址空间，相当于一个车间内有多条流水线，都共用一个车间的资源

我们之前了解过进程的2种创建方式
下面的代码是2种创建线程的方式

from threading import Thread
from multiprocessing import Process
import time,osdef task():print('%s is running' %os.getpid())time.sleep(2)print('%s is done' %os.getpid())class Mythread(Thread):def __init__(self,name):super().__init__()self.name=namedef run(self):print('%s is running' % os.getpid())time.sleep(5)print('%s is done' % os.getpid())if __name__ == '__main__':t=Thread(target=task)# t=Mythread('xxxxx')t.start()print('主')

输出如下：

E:\python\python_sdk\python.exe "E:/python/py_pro/1 开启线程的两种方式.py"
10336 is running
主
10336 is doneProcess finished with exit code 0

线程进程pid

part1:在主进程下开启多个线程,每个线程都跟主进程的pid一样

from threading import Thread
from multiprocessing import Process
import time,osdef task():print('partent：%s self：%s' %(os.getppid(),os.getpid()))time.sleep(5)if __name__ == '__main__':t=Thread(target=task,)# t=Process(target=task,)t.start()print('主',os.getppid(),os.getpid())

输出如下：

partent：9052 self：10120
主 9052 10120

开多个进程,每个进程都有不同的pid

from threading import Thread
from multiprocessing import Process
import time,osdef task():print('partent：%s self：%s' %(os.getppid(),os.getpid()))time.sleep(5)if __name__ == '__main__':t=Process(target=task,)t.start()print('主',os.getppid(),os.getpid())

输出如下：

主 9052 2668
partent：2668 self：8744

线程进程数据共享

进程之间数据不共享，但是进程之间可以通过ipc进行数据通讯

from threading import Thread
from multiprocessing import Process
import time,osn=100
def task():global nn=0if __name__ == '__main__':t=Process(target=task,)t.start()t.join()print('主',n)

输出如下：

主 100

线程之间内存空间共享

from threading import Thread
import time,osn=100
def task():global nn=0if __name__ == '__main__':t=Thread(target=task,)t.start()t.join()print('主',n)

输出如下：

主 0

线程ftp

服务端：

import multiprocessing
import threadingimport socket
s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
s.bind(('127.0.0.1',8081))
s.listen(5)def action(conn):while True:data=conn.recv(1024)print(data)conn.send(data.upper())if __name__ == '__main__':while True:conn,addr=s.accept()p=threading.Thread(target=action,args=(conn,))p.start()

客户端：

from socket import *client=socket(AF_INET,SOCK_STREAM)
client.connect(('127.0.0.1',8081))while True:msg=input('>>: ').strip()if not msg:continueclient.send(msg.encode('utf-8'))msg=client.recv(1024)print(msg.decode('utf-8'))

线程池

from concurrent.futures import ProcessPoolExecutor,ThreadPoolExecutor
from threading import current_thread
import time,random
def task(n):print('%s is running' %current_thread().getName())time.sleep(random.randint(1,3))return n**2if __name__ == '__main__':t=ThreadPoolExecutor(3) #默认是cpu的核数*5objs=[]for i in range(5):obj=t.submit(task,i)objs.append(obj)t.shutdown(wait=True)for obj in objs:print(obj.result())print('主',current_thread().getName())

输出如下：

E:\python\python_sdk\python.exe "E:/python/py_pro/4 线程池.py"
ThreadPoolExecutor-0_0 is running
ThreadPoolExecutor-0_1 is running
ThreadPoolExecutor-0_2 is runningThreadPoolExecutor-0_0 is runningThreadPoolExecutor-0_1 is running0
1
4
9
16
主 MainThread

线程池ftp

服务端：

from socket import *
from concurrent.futures import ThreadPoolExecutor
import osserver=socket(AF_INET,SOCK_STREAM)
server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)
server.bind(('127.0.0.1',8080))
server.listen(5)def talk(conn,client_addr):print('进程pid: %s' %os.getpid())while True:try:msg=conn.recv(1024)if not msg:breakconn.send(msg.upper())except Exception:breakif __name__ == '__main__':p=ThreadPoolExecutor(5)while True:conn,client_addr=server.accept()p.submit(talk,conn,client_addr)

客户端：

from socket import *client=socket(AF_INET,SOCK_STREAM)
client.connect(('127.0.0.1',8081))while True:msg=input('>>: ').strip()if not msg:continueclient.send(msg.encode('utf-8'))msg=client.recv(1024)print(msg.decode('utf-8'))

线程的一些其他方法

from threading import Thread,current_thread,enumerate,active_count
import time,osdef task():print('%s is running' %current_thread().getName())time.sleep(5)print('%s is done' %current_thread().getName())if __name__ == '__main__':t=Thread(target=task,name='xxxx')t.start()print(t.name)#查看当前活着的线程print(enumerate()[0].getName())print(active_count())print('主',current_thread().getName())print()

输出如下：

E:\python\python_sdk\python.exe "E:/python/py_pro/3 线程对象的其他属性或方法.py"
xxxx is running
xxxx
MainThread
2
主 MainThreadxxxx is done

异步-回调函数

ProcessPoolExecutor方式

我们之前总结的异步返回结果没有用到调用函数，接下来的是利用了回调函数

#pip install requests
import requests
from concurrent.futures import ThreadPoolExecutor,ProcessPoolExecutor
from threading import current_thread
import time,os
def get(url):print('%s GET %s' %(os.getpid(),url))response=requests.get(url)time.sleep(3)if response.status_code == 200:return {'url':url,'text':response.text}def parse(obj):res=obj.result()print('[%s] <%s> (%s)' % (os.getpid(), res['url'],len(res['text'])))if __name__ == '__main__':urls = ['https://www.python.org','https://www.baidu.com','https://www.jd.com','https://www.tmall.com',]t=ProcessPoolExecutor(2)for url in urls:t.submit(get,url).add_done_callback(parse)t.shutdown(wait=True)print('主',os.getpid())

代码思路是：
t=ProcessPoolExecutor(2)开一个进程池，然后去并发下载网络数据，下载完毕后，
在主进程中add_done_callback去解析
这里由于主进程、子进程不是同一个进程空间，所以在解析数据时候，在主进程
输出如下：

E:\python\python_sdk\python.exe "E:/python/py_pro/5 补充异步的概念.py"
5628 GET https://www.python.org
4816 GET https://www.baidu.com4816 GET https://www.jd.com
[3204] <https://www.baidu.com> (2443)[3204] <https://www.python.org> (48856)
5628 GET https://www.tmall.com[3204] <https://www.jd.com> (124541)[3204] <https://www.tmall.com> (212080)
主 3204Process finished with exit code 0
ThreadPoolExecutor方式
import requests
from concurrent.futures import ThreadPoolExecutor,ProcessPoolExecutor
from threading import current_thread
import time
import os
def get(url):print('%s GET %s,%s' %(current_thread().getName(),os.getpid(),url))response=requests.get(url)time.sleep(3)if response.status_code == 200:return {'url':url,'text':response.text}def parse(obj):res=obj.result()print('[%s] <%s> (%s)' % (current_thread().getName(), res['url'],len(res['text'])))if __name__ == '__main__':urls = ['https://www.python.org','https://www.baidu.com','https://www.jd.com','https://www.tmall.com',]t=ThreadPoolExecutor(2)for url in urls:t.submit(get,url).add_done_callback(parse)t.shutdown(wait=True)print('主',current_thread().getName(),os.getpid())

代码思路是：
t=ThreadPoolExecutor(2)开一个线程池，然后去并发下载网络数据，下载完毕后，
在主线程程中add_done_callback去解析
这里由于主线程、子线程是同一个进程空间，所以在解析数据时候，可能主线程、子线程都会解析
输出如下：

E:\python\python_sdk\python.exe "E:/python/py_pro/5 补充异步的概念.py"
ThreadPoolExecutor-0_0 GET 12956,https://www.python.org
ThreadPoolExecutor-0_1 GET 12956,https://www.baidu.com[ThreadPoolExecutor-0_1] <https://www.baidu.com> (2443)
ThreadPoolExecutor-0_1 GET 12956,https://www.jd.com[ThreadPoolExecutor-0_0] <https://www.python.org> (48856)
ThreadPoolExecutor-0_0 GET 12956,https://www.tmall.com[ThreadPoolExecutor-0_1] <https://www.jd.com> (124541)[ThreadPoolExecutor-0_0] <https://www.tmall.com> (212079)
主 MainThread 12956Process finished with exit code 0

这篇关于python基础-线程创建、线程池、进\线程异步回调(add_done_callback)、进\线程数据共享、ftp线程池的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1125193。

相关文章

Python的Darts库实现时间序列预测

Python的Darts库实现时间序列预测

《Python的Darts库实现时间序列预测》Darts一个集统计、机器学习与深度学习模型于一体的Python时间序列预测库,本文主要介绍了Python的Darts库实现时间序列预测,感兴趣的可以了解... 目录目录一、什么是 Darts？二、安装与基本配置安装 Darts导入基础模块三、时间序列数据结构与
阅读更多...
Python正则表达式匹配和替换的操作指南

Python正则表达式匹配和替换的操作指南

《Python正则表达式匹配和替换的操作指南》正则表达式是处理文本的强大工具,Python通过re模块提供了完整的正则表达式功能,本文将通过代码示例详细介绍Python中的正则匹配和替换操作,需要的朋... 目录基础语法导入re模块基本元字符常用匹配方法1. re.match() - 从字符串开头匹配2.
阅读更多...
Python使用FastAPI实现大文件分片上传与断点续传功能

Python使用FastAPI实现大文件分片上传与断点续传功能

《Python使用FastAPI实现大文件分片上传与断点续传功能》大文件直传常遇到超时、网络抖动失败、失败后只能重传的问题,分片上传+断点续传可以把大文件拆成若干小块逐个上传,并在中断后从已完成分片继... 目录一、接口设计二、服务端实现（FastAPI）2.1 运行环境2.2 目录结构建议2.3 serv
阅读更多...
通过Docker容器部署Python环境的全流程

通过Docker容器部署Python环境的全流程

《通过Docker容器部署Python环境的全流程》在现代化开发流程中,Docker因其轻量化、环境隔离和跨平台一致性的特性,已成为部署Python应用的标准工具,本文将详细演示如何通过Docker容... 目录引言一、docker与python的协同优势二、核心步骤详解三、进阶配置技巧四、生产环境最佳实践
阅读更多...
Python一次性将指定版本所有包上传PyPI镜像解决方案

Python一次性将指定版本所有包上传PyPI镜像解决方案

《Python一次性将指定版本所有包上传PyPI镜像解决方案》本文主要介绍了一个安全、完整、可离线部署的解决方案,用于一次性准备指定Python版本的所有包,然后导出到内网环境,感兴趣的小伙伴可以跟随... 目录为什么需要这个方案完整解决方案1. 项目目录结构2. 创建智能下载脚本3. 创建包清单生成脚本4
阅读更多...
Python实现Excel批量样式修改器(附完整代码)

Python实现Excel批量样式修改器(附完整代码)

《Python实现Excel批量样式修改器(附完整代码)》这篇文章主要为大家详细介绍了如何使用Python实现一个Excel批量样式修改器,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一... 目录前言功能特性核心功能界面特性系统要求安装说明使用指南基本操作流程高级功能技术实现核心技术栈关键函
阅读更多...
python获取指定名字的程序的文件路径的两种方法

python获取指定名字的程序的文件路径的两种方法

《python获取指定名字的程序的文件路径的两种方法》本文主要介绍了python获取指定名字的程序的文件路径的两种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要... 最近在做项目，需要用到给定一个程序名字就可以自动获取到这个程序在Windows系统下的绝对路径，以下
阅读更多...
使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解

使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解

《使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解》本文详细介绍了如何使用Python通过ncmdump工具批量将.ncm音频转换为.mp3的步骤,包括安装、配置ffmpeg环... 目录1. 前言2. 安装 ncmdump3. 实现 .ncm 转 .mp34. 执行过程5. 执行结
阅读更多...
Python实现批量CSV转Excel的高性能处理方案

Python实现批量CSV转Excel的高性能处理方案

《Python实现批量CSV转Excel的高性能处理方案》在日常办公中,我们经常需要将CSV格式的数据转换为Excel文件,本文将介绍一个基于Python的高性能解决方案,感兴趣的小伙伴可以跟随小编一... 目录一、场景需求二、技术方案三、核心代码四、批量处理方案五、性能优化六、使用示例完整代码七、小结一、
阅读更多...
Python中 try / except / else / finally 异常处理方法详解

Python中 try / except / else / finally 异常处理方法详解

《Python中try/except/else/finally异常处理方法详解》：本文主要介绍Python中try/except/else/finally异常处理方法的相关资料,涵... 目录1. 基本结构2. 各部分的作用tryexceptelsefinally3. 执行流程总结4. 常见用法（1）多个e
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2