__cdecl 调用约定不适用于 msvc x64

只是一个测试__cdecl调用约定。

这是一个 cmake 项目，只有 1 个源文件：

#include <stdio.h>

#define CALL_CONVENTION __cdecl

void CALL_CONVENTION f(int a, int b)
{
    printf("%d, %d", a, b);
}

int main()
{
    f(1, 2);

    return 0;
}

我在用着set(CMAKE_C_FLAGS "${CMAKE_C_FLAGS} /FA")输出汇编代码。

当我用cmake -G "Visual Studio 15"，它正在构建一个 32 位应用程序，一切都在预料之中：

...
; Line 12
    push    ebp
    mov ebp, esp
; Line 13
    push    2        ; <------- argument 2
    push    1        ; <------- argument 1
    call    _f       ; <------- call function
    add esp, 8
; Line 15
    xor eax, eax
; Line 16
    cmp ebp, esp
    call    __RTC_CheckEsp
    pop ebp
    ret 0
_main   ENDP
...

你可以看到参数被传递了push 2 and push 1说明，它是__cdecl调用约定。

但如果我使用cmake -G "Visual Studio 15 Win64"要构建 64 位应用程序，__cdecl注释似乎不起作用（参数未通过堆栈传递）：

...
; Line 12
$LN3:
    push    rdi
    sub rsp, 32                 ; 00000020H
    mov rdi, rsp
    mov ecx, 8
    mov eax, -858993460             ; ccccccccH
    rep stosd
; Line 13
    mov edx, 2        ; <------ argument 2
    mov ecx, 1        ; <------ argument 1
    call    f         ; <------ call function
; Line 15
    xor eax, eax
; Line 16
    add rsp, 32                 ; 00000020H
    pop rdi
    ret 0
main    ENDP
...

参数通过寄存器传递edx and ecx，不通过堆栈传递。

那么为什么即使我指定，参数在 x64 中也不会通过堆栈传递__cdecl如果我想在 x64 环境中做同样的事情我应该做什么。

x64 有它自己的调用约定。

微软文档__cdecl https://learn.microsoft.com/en-us/cpp/cpp/cdecl?view=vs-2019

在 ARM 和 x64 处理器上，__cdecl 被接受，但通常被编译器忽略。按照 ARM 和 x64 上的约定，如果可能，参数将在寄存器中传递，后续参数将在堆栈上传递。在 x64 代码中，使用 __cdecl 覆盖 /Gv 编译器选项并使用默认的 x64 调用约定。

Microsoft docs x64 calling convention https://learn.microsoft.com/en-us/cpp/build/x64-calling-convention?view=vs-2019

默认情况下，x64 应用程序二进制接口 (ABI) 使用四寄存器快速调用约定。在调用堆栈上分配空间作为被调用者保存这些寄存器的影子存储。函数调用的参数与用于这些参数的寄存器之间存在严格的一一对应关系。任何不能容纳 8 个字节或不是 1、2、4 或 8 个字节的参数都必须通过引用传递。

...

整数参数在寄存器 RCX、RDX、R8 和 R9 中传递

您可以使用 ECX 和 EDX 来查看它int a and int b（因为它们是 32 位，而完整的 RAX 和 RDX 是 64 位）。

__stdcall https://learn.microsoft.com/en-us/cpp/cpp/stdcall?view=vs-2019, __fastcall https://learn.microsoft.com/en-us/cpp/cpp/fastcall?view=vs-2019 and __thiscall https://learn.microsoft.com/en-us/cpp/cpp/thiscall?view=vs-2019也被忽略。__vectorcall https://learn.microsoft.com/en-us/cpp/cpp/vectorcall?view=vs-2019可用（/Gv 开关使其成为默认值），并且是另一种寄存器调用约定，但与 x64 默认值相比，它可以在更多情况下使用寄存器，并且有一些其他规则差异。