为什么 C++ 编译器不做更好的常量折叠？

我正在研究加速大部分 C++ 代码的方法，该代码具有用于计算雅可比的自动导数。这涉及在实际残差中做一些工作，但大部分工作（基于分析的执行时间）是计算雅可比矩阵。

这让我感到惊讶，因为大多数雅可比都是从 0 和 1 向前传播，所以工作量应该是函数的 2-4 倍，而不是 10-12 倍。为了模拟大量的雅可比工作是什么样的，我做了一个超级简单的例子，其中只有一个点积（而不是真实情况下的 sin、cos、sqrt 等），编译器应该能够优化为单个返回值：

#include <Eigen/Core>
#include <Eigen/Geometry>

using Array12d = Eigen::Matrix<double,12,1>;

double testReturnFirstDot(const Array12d& b)
{
    Array12d a;
    a.array() = 0.;
    a(0) = 1.;
    return a.dot(b);
}

这应该是相同的

double testReturnFirst(const Array12d& b)
{
    return b(0);
}

我很失望地发现，如果没有启用快速数学，GCC 8.2、Clang 6 或 MSVC 19 都无法对全 0 矩阵的简单点积进行任何优化。即使使用快速数学（https://godbolt.org/z/GvPXFy https://godbolt.org/z/GvPXFy）GCC和Clang中的优化很差（仍然涉及乘法和加法），而MSVC根本不做任何优化。

我没有编译器背景，但这有原因吗？我相当确定，在很大一部分科学计算中，能够更好地进行恒定传播/折叠将使更多优化变得明显，即使恒定折叠本身并没有导致加速。

虽然我对为什么不在编译器方面完成此操作的解释感兴趣，但我也对在面对此类模式时在实际方面可以做些什么以使我自己的代码更快感兴趣。

这是因为 Eigen 将代码显式矢量化为剩余 4 个分量寄存器内的 3 个 vmulpd、2 个 vaddpd 和 1 个水平缩减（假设 AVX，仅使用 SSE，您将获得 6 个 mulpd 和 5 个 addpd）。和-ffast-mathGCC 和 clang 被允许删除最后 2 个 vmulpd 和 vaddpd （这就是他们所做的），但它们不能真正取代 Eigen 显式生成的剩余 vmulpd 和水平缩减。

那么，如果您通过定义禁用 Eigen 的显式矢量化会怎么样？EIGEN_DONT_VECTORIZE？然后你就得到了你所期望的（https://godbolt.org/z/UQsoeH https://godbolt.org/z/UQsoeH）但其他代码片段可能会变得慢得多。

如果你想在本地禁用显式矢量化并且不怕弄乱 Eigen 的内部，你可以引入一个DontVectorize选项Matrix并通过专门化禁用矢量化traits<>为了这Matrix type:

static const int DontVectorize = 0x80000000;

namespace Eigen {
namespace internal {

template<typename _Scalar, int _Rows, int _Cols, int _MaxRows, int _MaxCols>
struct traits<Matrix<_Scalar, _Rows, _Cols, DontVectorize, _MaxRows, _MaxCols> >
: traits<Matrix<_Scalar, _Rows, _Cols> >
{
  typedef traits<Matrix<_Scalar, _Rows, _Cols> > Base;
  enum {
    EvaluatorFlags = Base::EvaluatorFlags & ~PacketAccessBit
  };
};

}
}

using ArrayS12d = Eigen::Matrix<double,12,1,DontVectorize>;

完整的例子在那里：https://godbolt.org/z/bOEyzv https://godbolt.org/z/bOEyzv