python分步式进程计算(python中如何使用分步式进程计算详解)
python分步式进程计算
python中如何使用分步式进程计算详解前言
在python中使用多进程和多线程都能达到同时运行多个任务,和多进程和多线程的选择上,应该优先选择多进程的方式,因为多进程更加稳定,且对于进程的操作管理也更加方便,但有一点是多进程独有的杀手锏,多进程可以将进程分步到多台机器上跑,假如有很多个任务,一台机器即使开了多进程或者多进程跑起来还是要耗很多时间,那么这时就要想一下可否将任务分配到多台机器上跑,这样可以更快的完成任务。
在分步式进程运算中,进程之前的通信还是依赖于queue,但此时的队列不能直接使用,需要使用multiprocessing.managers.basemanager
进行包装,通过回调以后才能使用,既然是分步式的调用,那么应该有一个服务端和一个客户端,服务端通过网络协议将队列中的信息给各个客户端进行调用,客户端也可以通过队列将结果返回,然后服务端进行结果的收集展示,流程如下
分步式流程
服务端将任务放到 task_queue 中,然后四个客户端通过网络端口从task_queue中获取到任务,然后进行计算,再将结果放到result_queue中,最后服务端统一处理结果。整体的流程比较清晰,只是需要强调,这里的队列不能是原始的队列,需要使用basemanager 进行包装。
先看一下服务端的代码
|
#coding:gbk import time, queue from multiprocessing.managers import basemanager from multiprocessing import freeze_support # 任务个数 task_number = 10 # 定义收发队列 task_queue = queue.queue(task_number) result_queue = queue.queue(task_number) def gettask(): return task_queue def getresult(): return result_queue def test(): # windows下绑定调用接口不能使用lambda,所以只能先定义函数再绑定 basemanager.register( 'get_task' , callable = gettask) basemanager.register( 'get_result' , callable = getresult) # 绑定端口并设置验证码,windows下需要填写ip地址,linux下不填默认为本地 manager = basemanager(address = ( '127.0.0.1' , 5002 ), authkey = b '123' ) # 启动 manager.start() try : # 通过网络获取任务队列和结果队列 task = manager.get_task() result = manager.get_result() # 添加任务 for i in range (task_number): print ( 'put task %d...' % i) task.put(i) # 每秒检测一次是否所有任务都被执行完 while not result.full(): print (task.qsize()) time.sleep( 1 ) for i in range (result.qsize()): ans = result.get() print ( 'task %d is finish , runtime:%d s' % ans) except : print ( 'manager error' ) finally : manager.shutdown() if __name__ = = '__main__' : # windows下多进程可能会炸,添加这句可以缓解 freeze_support() test() |
这里重点说一下 basemanager.register('get_task', callable=gettask)
这行代码,它的意思是注册一个get_task的操作,执行的操作是gettask()
函数,上面定义了gettask()
函数,返回的是task_queue,这也是之前说的不能直接使用queue.queue
,必须要使用通过basemanager的register接口封装过的的队列,下面使用task = manager.get_task()
来获取到这个队列。
|
manager = basemanager(address = ( '127.0.0.1' , 5002 ), authkey = b '123' ) |
这行代码初始了一个manager,它绑定了本机的5002端口,并且在客户端连接的时候需要一个密码:123。
接下来看一下客户端代码。
|
#coding:gbk import time, sys, queue, random from multiprocessing.managers import basemanager basemanager.register( 'get_task' ) basemanager.register( 'get_result' ) conn = basemanager(address = ( '127.0.0.1' , 5002 ), authkey = b '123' ) try : conn.connect() except : print ( '连接失败' ) sys.exit() task = conn.get_task() result = conn.get_result() while not task.empty(): print (task.qsize()) n = task.get(timeout = 1 ) print ( 'run task %d' % n) sleeptime = random.randint( 0 , 3 ) time.sleep(sleeptime) rt = (n, sleeptime) result.put(rt) if __name__ = = '__main__' : pass ; |
这里主要看以下的代码
|
basemanager.register( 'get_task' ) basemanager.register( 'get_result' ) |
这两个是注册函数,和之前的服务端所对应,之前服务端注册了这两个函数,这里才能注册使用,注意这里不能注册服务端没有注册的函数
运行一下,先运行服务端,然后再启两个cmd运行客户端,也可以在局域网中的另外的机器上运行,但是要修改服务端的ip地址
服务端的结果如下
put task 0...
put task 1...
put task 2...
put task 3...
put task 4...
put task 5...
put task 6...
put task 7...
put task 8...
put task 9...
task 0 is finish , runtime:3 s
task 1 is finish , runtime:0 s
task 2 is finish , runtime:2 s
task 4 is finish , runtime:1 s
task 3 is finish , runtime:3 s
task 6 is finish , runtime:1 s
task 7 is finish , runtime:0 s
task 5 is finish , runtime:3 s
task 8 is finish , runtime:2 s
task 9 is finish , runtime:3 s
两个客户端的结果分别如下
客户端1
10
run task 0
9
run task 1
8
run task 2
6
run task 4
5
run task 5
1
run task 9
客户端2
7
run task 3
4
run task 6
3
run task 7
2
run task 8
一起运行的截图如下
结果
由于队列是线程安全的,所以这里不用加锁,在客户端中打印print(task.qsize()) 当前的队列大小,可以看到队列的信息中同步到各个客户端的。
最后还是要多说一句,分步式多进程虽然可以把任务分散到不同的机器上运行,可以处理多任务,但是如果此时服务端挂掉的话,任务就全丢掉了,所以在生产环境下还是考虑使用消息中间件如kafka等。
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对开心学习网的支持。
原文链接:https://www.yangyanxing.com/article/fractional_in_python.html
- scrapy框架爬取小说的正文内容(Scrapy框架爬取Boss直聘网Python职位信息的源码)
- python strip用法(Python3.5内置模块之shelve模块、xml模块、configparser模块、hashlib、hmac模块用法分析)
- python爬取百度搜索pdf文档(Python实现的爬取百度文库功能示例)
- python虚拟变量教程(Python中psutil的介绍与用法)
- python面向对象的介绍(Python面向对象思想与应用入门教程类与对象)
- python变量与对象的关系(Python面向对象程序设计类变量与成员变量、类方法与成员方法用法分析)
- python 正则表达式在代码里的使用(python中正则表达式与模式匹配)
- pythonnumpy定义一个2*2数组(对python numpy.array插入一行或一列的方法详解)
- python分词操作(Python英文文本分词无空格模块wordninja的使用实例)
- python创建hbase命名空间(python使用phoenixdb操作hbase的方法示例)
- python简易翻译器的运行(Python3.6实现带有简单界面的有道翻译小程序)
- 简简单单教你用python写个游戏(python3 pygame实现接小球游戏)
- python开源协议简介(对python 自定义协议的方法详解)
- python人脸识别库有几个(Python人脸识别第三方库face_recognition接口说明文档)
- python函数大全详细(详解Python函数式编程—高阶函数)
- python数据分析pandas教程(11个Python Pandas小技巧让你的工作更高效附代码实例)
- 体坛传媒LOGO全新升级,多元发展迈出坚实步伐(体坛传媒LOGO全新升级)
- 超撩人治愈的绝美水彩,原来出自她之手 一笔一画令无数人沉醉(超撩人治愈的绝美水彩)
- 新手的勾线(新手的勾线)
- ()
- 书法欣赏 宋.志南诗《绝句》(宋.志南诗绝句)
- 每周一首古诗 《绝句》(每周一首古诗绝句)
热门推荐
- SQLServer获取临时表所有列名或是否存在指定列名的方法(SQLServer获取临时表所有列名或是否存在指定列名的方法)
- sqlserver日期转换(SqlServer 查询时日期格式化语句)
- docker-compose配置文件(Docker Compose在不同环境的多种安装方式)
- nginx反向代理流程详解(本地通过nginx配置反向代理的全过程记录)
- 用javascript设计五子棋(JavaScript实现网页版五子棋游戏)
- 使用TLS加密通讯远程连接Docker的示例详解(使用TLS加密通讯远程连接Docker的示例详解)
- vue端口号是什么原理(解决vue前后端端口不一致的问题)
- lombok 代码行数(Lombok实现方式JSR-269)
- sqlserver如何添加数据库(sqlserver建立新用户及关联数据库教程)
- react usestate实现原理(浅谈react useEffect闭包的坑)
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9