为什么 SSE 对齐读取 + 随机播放在某些 CPU 上比未对齐读取慢，而在其他 CPU 上则不然？

在尝试优化有限差分代码所需的未对齐读取时，我更改了未对齐的负载，如下所示：

__m128 pm1 =_mm_loadu_ps(&H[k-1]);

进入这个对齐的读取+随机播放代码：

__m128 p0   =_mm_load_ps(&H[k]);
__m128 pm4  =_mm_load_ps(&H[k-4]);
__m128 pm1  =_mm_shuffle_ps(p0,p0,0x90);   // move 3 floats to higher positions
__m128 tpm1 =_mm_shuffle_ps(pm4,pm4,0x03); // get missing lowest float
       pm1  =_mm_move_ss(pm1,tpm1);        // pack lowest float with 3 others

where H16 字节对齐；并且也有类似的变化H[k+1], H[k±3] and movlhps & movhlps优化为H[k±2] (here http://paste.ubuntu.com/7306179/'是循环的完整代码）。

我发现在我的 Core i7-930 上优化了阅读H[k±3]似乎是富有成效的，同时添加了下一个优化±1减慢了我的循环速度（以百分比为单位）。之间切换±1 and ±3优化并没有改变结果。

同时，在 Core 2 Duo 6300 和 Core 2 Quad 上启用两种优化（对于±1 and ±3）提高了性能（百分之几十），而对于 Core i7-4765T，这两者都降低了性能（以百分比为单位）。

在 Pentium 4 上，所有优化未对齐读取的尝试，包括那些movlhps/movhlps导致放缓。

为什么不同的CPU会有这么大的差异呢？是否是因为代码大小增加导致循环可能不适合某些指令缓存？或者是因为某些 CPU 对未对齐读取不敏感，而其他 CPU 则更敏感？或者诸如洗牌之类的操作在某些 CPU 上可能很慢？

英特尔每两年都会推出一种新的微架构。执行单元的数量可能会发生变化，以前只能在一个执行单元中执行的指令在较新的处理器中可能有 2 或 3 个可用。指令的延迟可能会改变，就像当shuffle添加执行单元。

英特尔在其优化参考手册中介绍了一些详细信息，这是链接，下面我复制了相关部分。

http://www.intel.com/content/dam/www/public/us/en/documents/manuals/64-ia-32-architectures-optimization-manual.pdf http://www.intel.com/content/dam/www/public/us/en/documents/manuals/64-ia-32-architectures-optimization-manual.pdf

section 3.5.2.7 浮点/SIMD 操作数

来自内存的 MOVUPD 指令执行两个 64 位加载，但需要额外的 μop 来调整地址并将加载组合到单个寄存器中。使用 MOVSD XMMREG1、MEM 可以获得相同的功能； MOVSD XMMREG2，MEM+8； UNPCKLPD XMMREG1、XMMREG2，使用更少的μops，可以更有效地打包到跟踪缓存中。已发现后一种替代方案在某些情况下可提供几个百分点的性能改进。它的编码需要更多的指令字节，但这对于 Pentium 4 处理器来说很少是问题。 MOVUPD 的存储版本复杂且缓慢，因此应始终使用具有两个 MOVSD 和一个 UNPCKHPD 的序列。

汇编/编译器编码规则 44。（ML 影响，L 通用性）对于未对齐的 128 位负载，不要使用 MOVUPD XMMREG1, MEM，而是使用 MOVSD XMMREG1, MEM； MOVSD XMMREG2，MEM+8； UNPCKLPD XMMREG1、XMMREG2。如果附加寄存器不可用，则使用MOVSD XMMREG1、MEM； MOVHPD XMMREG1，MEM+8。

汇编/编译器编码规则 45。（M 影响，ML 通用性）不要使用 MOVUPD MEM, XMMREG1 进行存储，而是使用 MOVSD MEM, XMMREG1； UNPCKHPD XMMREG1、XMMREG1； MOVSD MEM+8，改为 XMMREG1。

section 6.5.1.2 数据混合

将数据从 SoA 转换为 AoS 格式可应用于许多应用领域，包括 3D 几何、视频和成像。可以采用两种不同的混合技术来处理浮点和整数数据。例 6-3 说明了使用 SHUFPS、MOVLHPS、MOVHLPS 指令的 swizzle 函数。

例 6-3 中的技术（加载 16 个字节，使用 SHUFPS 并复制 XMM 寄存器的一半）优于在较新的微架构上使用 MOVLPS/MOVHPS 加载每个向量的一半的替代方法。这是因为使用 MOVLPS/MOVHPS 加载 8 个字节会产生代码依赖性并降低执行引擎的吞吐量。示例 6-3 和示例 6-4 的性能考虑因素通常取决于每种微架构的特性。例如，在 Intel Core 微架构中，执行 SHUFPS 往往比 PUNPCKxxx 指令慢。在增强型英特尔酷睿微架构中，由于 128 位混洗执行单元，SHUFPS 和 PUNPCKxxx 指令均以 1 个周期吞吐量执行。那么下一个重要的考虑因素是只有一个端口可以执行PUNPCKxxx vs MOVLHPS/MOVHLPS 可以在多个端口上执行。由于具有 3 个用于执行 SIMD 指令的端口，这两种技术的性能在 Intel Core 微架构上均优于以前的微架构。由于采用了 128 位混洗单元，这两种技术都在增强型英特尔酷睿微架构上得到了进一步改进。