Python如何快速实现分布式任务_Python

Python如何快速实现分布式任务

2020-11-24 00:15开源小站 Python

这篇文章主要介绍了Python如何快速实现分布式任务,小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧

深入读了读python的官方文档，发觉Python自带的multiprocessing模块有很多预制的接口可以方便的实现多个主机之间的通讯，进而实现典型的生产者-消费者模式的分布式任务架构。

之前，为了在Python中实现生产者-消费者模式，往往就会选择一个额外的队列系统，比如rabbitMQ之类。此外，你有可能还要设计一套任务对象的序列化方式以便塞入队列。如果没有队列的支持，那不排除有些同学不得不从socket服务器做起，直接跟TCP/IP打起交道来。

其实multiprocessing.managers中有个BaseManager就为开发者提供了这样一个快速接口。

我们假定的场景是1个生产者（producer.py）+8个消费者(worker.py)的系统，还有一个中央节点负责协调（server.py）实现如下：

server.py

									from multiprocessing.managers import BaseManager

									import Queue

									queue = Queue.Queue() #初始化一个Q，用于消息传递

									class QueueManager(BaseManager):

									  pass

									QueueManager.register('get_queue', callable=lambda:queue) # 在系统中发布get_queue这个业务

									if __name__ == '__main__':

									  m = QueueManager(address=('10.239.85.193', 50000),authkey='abr' )

									 # 监听所有10.239.85.193的50000口

									  s = m.get_server()

									  s.serve_forever()

worker.py

									from multiprocessing.managers import BaseManager

									from multiprocessing import Pool

									class QueueManager(BaseManager):

									 pass

									QueueManager.register('get_queue') 

									def feb(i): #经典的'山羊增殖'

									  if i < 2: return 1

									  if i < 5 : return feb(i-1) + feb(i-2)

									  return feb(i-1) + feb(i-2) - feb(i-5)

									def worker(i): 

									  m = QueueManager(address=('10.239.85.193', 50000), authkey='abr')

									#连接server

									  m.connect()

									  while True:

									    queue = m.get_queue()

									# 获取Q

									   c = queue.get()

									 print feb(c)

									if __name__ == '__main__':

									  p = Pool(8) # 分进程启动8个worker

									  p.map(worker, range(8))

									producer.py

									from multiprocessing.managers import BaseManager

									class QueueManager(BaseManager):

									  pass

									QueueManager.register('get_queue')

									if __name__ == '__main__':

									 m = QueueManager(address=('10.239.85.193', 50000), authkey='abr')

									 m.connect()

									 i = 0

									 while True:

									   queue = m.get_queue()

									   queue.put(48)

									   i+=1

系统会直接将Queue() 对象中的数据直接封装后通过TCP 50000端口在主机之间传递。不过需要注意的是，由于authkey的缘故，各个节点要求python的版本一致。

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持服务器之家。

原文链接：http://www.litrin.net/2017/07/05/python%E5%BF%AB%E9%80%9F%E5%AE%9E%E7%8E%B0%E5%88%86%E5%B8%83%E5%BC%8F%E4%BB%BB%E5%8A%A1/?utm_source=tuicool&utm_medium=referral