Python:多处理池中的产量

2024-02-06

我必须并行化一个涉及一定“产量”的函数。这只是我必须处理的整个程序的简单复制品,但总结了我面临的问题。在这里,我尝试了解我的项目的多处理、apply_async 和产量 在此示例中,我使用了 multiprocessing.pool 并使用 apply_async 进行并行化。我在“并行”函数中放入了一些打印语句,但它们没有被打印。 当我用 return 替换 Yield 时,打印语句会得到反映。我不确定收益率的本质。我知道它是一个生成器,返回后只能使用一次。请告知如何使其正常工作。

import multiprocessing as mp
results=[]

def parallel(x, y, z):
    print "aim in parallel"
    count=0
    result=[]
    for line in range(10000):
        count+=1
    result.append(count)
    p=x**3+y+z
    print " result"
    print result
    print p
    if p > 0:
       return result
#      yield result, p
#      count += 1
#      yield p, result
#      count += 1

def collect_results(result):
   print "aim in callback"
   results.append(result)
   #print results


def apply_async_with_callback():
    pool    = mp.Pool(processes=10)
    r = range(10)
    [pool.apply_async(parallel, args=(2,5, 7),callback=collect_results) for i in r ]
    pool.close()
    pool.join()
    print "length"
    print len(results)
    print results

if __name__ == "__main__":
    apply_async_with_callback()

当一个函数包含yield调用语句时,它实际上并不运行代码,而是返回一个生成器:

>>> p = parallel(1, 2, 3)
>>> p
<generator object parallel at 0x7fde9c1daf00>

然后,当需要下一个值时,代码将运行直到产生一个值:

>>> next(p)
([10000], 6)
>>> next(p)
(6, [10000])

就你而言,results包含 10 个异步创建的生成器,但它们从未实际运行过。

如果您想使用生成器,您可以稍微更改代码以定位从生成器创建列表的函数:

def parallel2(x, y, z):
    return list(parallel(x, y, z))

def collect_results(lst):
   results.extend(lst)

def apply_async_with_callback():
    pool = mp.Pool()
    for _ in range(10):
        pool.apply_async(parallel2, args=(2, 5, 7),
                         callback=collect_results)
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Python:多处理池中的产量 的相关文章

随机推荐