BatchScript 0.0.5

Python Master-Queue-Worker Structure multiple task framework

BatchScript

使用多进程+线程池+队列运行你的方法

pip3 install BatchScript

from BatchScript.master import Master
import helper 

import os
class Config():
    MaxWorkerSize = os.cpu_count() - 1  #worker数量

    MaxThreadPoolSize = 1024  #每个worker的线程池大小

    ThreadQueueWaitTimeout = 0.01  #worker在job队列上获取数据的超时, 超时后会立即开始批量线程提交

    WorkerGetBatchSize = 100  #额定批大小, 如果worker获取数据时不超时, 那么在获取都这个数量后便开始批量线程提交

    JobsResultsQueueNum = MaxWorkerSize #jobs 和 results 队列对的数量, 该数量如果小于worker数量, 则最后一对会被未分配的worker共用, 共用队列可能会导致锁操作增加

master = Master(func=helper.sleep, config=Config(), result_callback=print)
master.start()
for i in range(1000):
    master.jobs().put(0.01)

while True:
    print(master.results().get())

采用 多进程启动Worker, worker维护线程池运行函数的方案 master内建和worker关联的多个任务队列和对应的多个结果队列 worker按batch从任务队列中获取数据并使用线程池提交运行 批量结束后将任务结果put到结果队列

你可以在config.py文件中调整

import os

MaxWorkerSize = os.cpu_count() - 1  #worker数量

MaxThreadPoolSize = 1024  #每个worker的线程池大小

ThreadQueueWaitTimeout = 0.01  #worker在job队列上获取数据的超时, 超时后会立即开始批量线程提交

WorkerGetBatchSize = 100  #额定批大小, 如果worker获取数据时不超时, 那么在获取都这个数量后便开始批量线程提交

JobsResultsQueueNum = MaxWorkerSize #jobs 和 results 队列对的数量, 该数量如果小于worker数量, 则最后一对会被未分配的worker共用, 共用队列可能会导致锁操作增加