Python自学成才之路 分布式计算解决方案actor

2023-10-09 21:59

本文主要是介绍Python自学成才之路 分布式计算解决方案actor,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

以下内容来自于cookbook,个人觉得这篇文章对于设计分布式计算任务有一定的借鉴意义,感兴趣的同学可以阅读原文:
https://python3-cookbook.readthedocs.io/zh_CN/latest/c12/p10_defining_an_actor_task.html

actor模式是一种最古老的也是最简单的并行和分布式计算解决方案。一个actor就是一个并发执行的任务,只是简单的执行发送给它的消息任务。actor之间的通信是单向和异步的。因此,消息发送者不知道消息是什么时候被发送, 也不会接收到一个消息已被处理的回应或通知。

使用线程加队列可以定义一个actor:

from queue import Queue
from threading import Thread, Event
import timeclass ActorExit(Exception):passclass Actor:def __init__(self):self._mailbox = Queue()def send(self, msg):'''发送消息 '''self._mailbox.put(msg)def recv(self):'''接受消息'''msg = self._mailbox.get()if msg is ActorExit:raise ActorExit()return msgdef close(self):'''关闭actor'''self.send(ActorExit)def start(self):'''启动actor'''self._terminated = Event()t = Thread(target=self._bootstrap)t.daemon = Truet.start()def _bootstrap(self):try:self.run()except ActorExit:passfinally:self._terminated.set()def join(self):self._terminated.wait()def run(self):'''消费者线程的run方法'''while True:msg = self.recv()class PrintActor(Actor):def run(self):while True:msg = self.recv()print('Got:', msg)p = PrintActor()
p.start()
time.sleep(1)
p.send('Hello')
time.sleep(2)
p.send('World')
time.sleep(1)
p.close()
p.join()输出:
Got: Hello
Got: World

这个案例是这样的,先定义了一个actor,然后通过继承actor定义了PrintActor,并重写了其中的run方法。

这个actor中的每个方法起到什么作用,并如何实现的?
Start:创建self._terminated信号(关于event我前面的文章有讲解),定义一个线程,将现场设置为守护线程,并启动线程。
_bootstrap:线程启动后会执行这个方法,并启动里面的run方法。
Run:这里的run方法被子类重写了,子类通过recv不断的获取队列中的消息。
Recv:获取队列中的消息,并返回消息,如果消息类型是ActorExit,则抛出ActorExit异常。
Send:往队列中写入消息
Close:发送一个ActorExit类型的消息,recv接受到这个消息后,抛出ActorExit异常,run方法结束,bootstrap中捕获这个异常后,将self._terminated信号修改为true。
Join:如果self._terminated为false线程阻塞。

思考:在程序最后面加了一个p.join(),为何要加这个呢?
因为close方法只是发送了一个ActorExit类型的消息到队列,而消费队列的线程是一个守护线程,如果close后面没有任何需要执行的代码,则主线程就结束了,子线程也会随着结束,那么很有可能‘world’这条消息也没消费到,子线程就退出了,所以加个p.join()是为了主线程被阻塞,知道子线程消费到ActorExit类型的消息,将self._terminated设置为true才会唤醒主线程,主线程退出,子线程也退出,此时队列中的消息肯定是已经消费完了。


上面这个案例中,actor只是简单的模拟了一个队列传递消息的例子,实际上这些消息还可以是一个函数,比如下面这个案例:


from threading import Event
class Result:def __init__(self):self._evt = Event()self._result = Nonedef set_result(self, value):self._result = valueself._evt.set()def result(self):self._evt.wait()return self._resultclass Worker(Actor):def submit(self, func, *args, **kwargs):r = Result()self.send((func, args, kwargs, r))return rdef run(self):while True:func, args, kwargs, r = self.recv()r.set_result(func(*args, **kwargs))def add(a, b):return a+bworker = Worker()
worker.start()
r = worker.submit(add, 2, 3)
worker.close()
worker.join()
print(r.result())
输出:
5

这个案例中,worker继承了actor,在submit方法中,将函数和函数的参数作为一个元祖发送到队列中,并返回一个Result实例,消费者线程拿到函数和参数后,执行这个函数,并将函数的返回值放到Result实例的_result属性上。_result属性值可以通过result()方法获取,这个方法是阻塞的,只有当线程将函数执行完并将函数结果通过set_result方法赋值给_result属性上时,result()方法才能得到返回结果,这里面的异步获取返回结果的过程是通过event()来控制的。

这种通过函数作为消息的方式来传递并由消费线程来执行的思想在一些分布式系统里面会经常用到。后面碰到这种案例再给兄弟们分享出来。



本人是做大数据开发的,在微信上开了个个人号,会经常在上面分享一些学习心得,原创文章都会首发到公众号上,感兴趣的盆友可以关注下哦!
在这里插入图片描述
备注:微信公众号搜索‘大数据入坑指南’

这篇关于Python自学成才之路 分布式计算解决方案actor的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/175834

相关文章

Python 字典 (Dictionary)使用详解

《Python字典(Dictionary)使用详解》字典是python中最重要,最常用的数据结构之一,它提供了高效的键值对存储和查找能力,:本文主要介绍Python字典(Dictionary)... 目录字典1.基本特性2.创建字典3.访问元素4.修改字典5.删除元素6.字典遍历7.字典的高级特性默认字典

MySQL逻辑删除与唯一索引冲突解决方案

《MySQL逻辑删除与唯一索引冲突解决方案》本文探讨MySQL逻辑删除与唯一索引冲突问题,提出四种解决方案:复合索引+时间戳、修改唯一字段、历史表、业务层校验,推荐方案1和方案3,适用于不同场景,感兴... 目录问题背景问题复现解决方案解决方案1.复合唯一索引 + 时间戳删除字段解决方案2:删除后修改唯一字

Python自动化批量重命名与整理文件系统

《Python自动化批量重命名与整理文件系统》这篇文章主要为大家详细介绍了如何使用Python实现一个强大的文件批量重命名与整理工具,帮助开发者自动化这一繁琐过程,有需要的小伙伴可以了解下... 目录简介环境准备项目功能概述代码详细解析1. 导入必要的库2. 配置参数设置3. 创建日志系统4. 安全文件名处

使用Python构建一个高效的日志处理系统

《使用Python构建一个高效的日志处理系统》这篇文章主要为大家详细讲解了如何使用Python开发一个专业的日志分析工具,能够自动化处理、分析和可视化各类日志文件,大幅提升运维效率,需要的可以了解下... 目录环境准备工具功能概述完整代码实现代码深度解析1. 类设计与初始化2. 日志解析核心逻辑3. 文件处

python生成随机唯一id的几种实现方法

《python生成随机唯一id的几种实现方法》在Python中生成随机唯一ID有多种方法,根据不同的需求场景可以选择最适合的方案,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习... 目录方法 1:使用 UUID 模块(推荐)方法 2:使用 Secrets 模块(安全敏感场景)方法

使用Python删除Excel中的行列和单元格示例详解

《使用Python删除Excel中的行列和单元格示例详解》在处理Excel数据时,删除不需要的行、列或单元格是一项常见且必要的操作,本文将使用Python脚本实现对Excel表格的高效自动化处理,感兴... 目录开发环境准备使用 python 删除 Excphpel 表格中的行删除特定行删除空白行删除含指定

Python通用唯一标识符模块uuid使用案例详解

《Python通用唯一标识符模块uuid使用案例详解》Pythonuuid模块用于生成128位全局唯一标识符,支持UUID1-5版本,适用于分布式系统、数据库主键等场景,需注意隐私、碰撞概率及存储优... 目录简介核心功能1. UUID版本2. UUID属性3. 命名空间使用场景1. 生成唯一标识符2. 数

Python办公自动化实战之打造智能邮件发送工具

《Python办公自动化实战之打造智能邮件发送工具》在数字化办公场景中,邮件自动化是提升工作效率的关键技能,本文将演示如何使用Python的smtplib和email库构建一个支持图文混排,多附件,多... 目录前言一、基础配置:搭建邮件发送框架1.1 邮箱服务准备1.2 核心库导入1.3 基础发送函数二、

Python包管理工具pip的升级指南

《Python包管理工具pip的升级指南》本文全面探讨Python包管理工具pip的升级策略,从基础升级方法到高级技巧,涵盖不同操作系统环境下的最佳实践,我们将深入分析pip的工作原理,介绍多种升级方... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核

基于Python实现一个图片拆分工具

《基于Python实现一个图片拆分工具》这篇文章主要为大家详细介绍了如何基于Python实现一个图片拆分工具,可以根据需要的行数和列数进行拆分,感兴趣的小伙伴可以跟随小编一起学习一下... 简单介绍先自己选择输入的图片,默认是输出到项目文件夹中,可以自己选择其他的文件夹,选择需要拆分的行数和列数,可以通过