为什么 numpy.mean 不是多线程的？

自从我注意到 numpy 它只使用一个核心以来，我一直在寻找轻松地对一些简单分析代码进行多线程处理的方法，尽管事实上它应该是多线程的。

我知道 numpy 是为多个核心配置的，因为我可以看到使用 numpy.dot 的测试使用了我的所有核心，所以我只是将平均值重新实现为点积，并且它运行得更快。是否有某种原因意味着无法自行运行得这么快？我发现较大的数组也有类似的行为，尽管该比率比我的示例中显示的 3 更接近 2。

我读过很多关于类似 numpy 速度问题的帖子，显然它比我想象的要复杂。任何见解都会有所帮助，我更愿意只使用平均值，因为它更具可读性且代码更少，但我可能会切换到基于点的平均值。

In [27]: data = numpy.random.rand(10,10)

In [28]: a = numpy.ones(10)

In [29]: %timeit numpy.dot(data,a)/10.0
100000 loops, best of 3: 4.8 us per loop

In [30]: %timeit numpy.mean(data,axis=1)
100000 loops, best of 3: 14.8 us per loop

In [31]: numpy.dot(data,a)/10.0 - numpy.mean(data,axis=1)
Out[31]: 
array([  0.00000000e+00,   0.00000000e+00,   0.00000000e+00,
         0.00000000e+00,   1.11022302e-16,   0.00000000e+00,
         0.00000000e+00,   0.00000000e+00,   0.00000000e+00,
        -1.11022302e-16])

自从我注意到 numpy 它只使用一个核心以来，我一直在寻找轻松地对一些简单分析代码进行多线程处理的方法，尽管事实上它应该是多线程的。

谁说它应该是多线程的？

numpy主要设计为在单核上尽可能快，并且在需要时尽可能可并行化。但你仍然必须并行化它。

特别是，您可以同时对独立的子对象进行操作，并且缓慢的操作会在可能的情况下释放 GIL，尽管“在可能的情况下”可能还不够。还，numpy对象被设计为尽可能容易地在进程之间共享或传递，以方便使用multiprocessing.

有一些专门的方法是自动并行化的，但大多数核心方法不是。尤其，dot尽可能在 BLAS 之上实现，并且 BLAS 在大多数平台上自动并行化，但是mean用纯 C 代码实现。

See 使用 numpy 和 scipy 进行并行编程了解详情。

那么，您如何知道哪些方法是并行的，哪些不是？而且，对于那些不是的，您如何知道哪些可以很好地手动线程化，哪些需要多重处理？

对此没有好的答案。您可以做出有根据的猜测（X 似乎可能是在 ATLAS 之上实现的，并且我的 ATLAS 副本是隐式线程化的），或者您可以阅读源代码。

但通常情况下，最好的办法就是尝试和测试。如果代码使用一个核心 100%，其他核心使用 0%，请添加手动线程。如果它现在使用 100% 的一个核心和 10% 的其他核心，并且运行速度几乎没有提高，请将多线程更改为多处理。 （幸运的是，Python 使这变得非常容易，特别是如果您使用来自concurrent.futures或来自的 Pool 课程multiprocessing。但您仍然经常需要考虑一下，并测试共享与传递（如果您有大型数组）的相对成本。）

另外，正如 kwatford 指出的那样，仅仅因为某些方法似乎不是隐式并行的，并不意味着它在下一个版本的 numpy 或下一个版本的 BLAS 中或在不同的平台上不会并行，或者即使在安装了稍微不同的东西的机器上也是如此。所以，准备好重新测试。并做类似的事情my_mean = numpy.mean然后使用my_mean到处都是，所以你只需将一行更改为my_mean = pool_threaded_mean.