任何人都可以深入了解为什么使用 lambda 或嵌套函数(f
) 将使concurrent.futures.ProcessPoolExecutor
挂在下面的代码示例中吗?
import concurrent.futures
def f2(s):
return len(s)
def main():
def f(s):
return len(s)
data = ["a", "b", "c"]
with concurrent.futures.ProcessPoolExecutor(max_workers=1) as pool:
# results = pool.map(f, data) # hangs
# results = pool.map(lambda d: len(d), data) # hangs
# results = pool.map(len, data) # works
results = pool.map(f2, data) # works
print(list(results))
if __name__ == "__main__":
main()
长话短说,Pool/ProcessPoolExecutor 都必须序列化所有内容,然后再将其发送给工作人员。序列化(有时也称为 pickling)实际上是保存函数名称的过程,只有在 Pool 想要访问它时才再次导入。为了使此过程正常工作,必须在顶层定义该函数,因为子函数无法导入嵌套函数
这就是出现以下错误的原因:
AttributeError: Can't pickle local object 'MyClass.mymethod.<locals>.mymethod'
为了避免这个问题,有一些我认为不可靠的解决方案。如果您可以灵活地使用其他软件包,pathos实际上是一个替代方案works。例如,以下内容不会挂起:
import pathos
import os
class SomeClass:
def __init__(self):
self.words = ["a", "b", "c"]
def some_method(self):
def run(s):
return len(s)
return list(pool.map(run, self.words))
pool = pathos.multiprocessing.Pool(os.cpu_count())
print(SomeClass().some_method())
它确实会打印
[1, 1, 1]
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)