windows下的汇编

(编译器使用msvc,不同编译器可能编译效果不同)

前言

在用函数理解汇编之前需要一些寄存器相关的知识

1
2
3
4
5
6
7
8
9
10
11
dword ptr [地址]	//在地址取出双字节
//例如
mov dword ptr [rax], 9 //将9赋值给rax寄存器指向的地址,赋值大小为双字节

//在结构体拷贝时通常会有以下汇编,假设栈区对象A有临时拷贝对象B
lea rax, [rsp+68h+B]
lea rcx, [rsp+68h+A]
mov rdi, rax
mov rsi, rcx
mov ecx, 10h
rep movsb //重点!!拷贝 从rsi指向的地址到rdi指向的地址 拷贝的大小为 ecx

一、X86下的ASM与C/C++

1、在X86下函数参数为4byte的倍数(和字节对齐不一样)

函数调用会开辟栈帧使用ebp寄存器

1
2
3
4
5
6
7
push ebp		//保存上一个函数的栈帧的
mov ebp,esp //从当前栈顶开辟为一个新栈帧

... //函数的执行部分

mov esp,ebp //函数调用结束还原栈
pop ebp //弹出上一个栈的栈帧

函数调用约定stdcall 、cdecl 、fastcall、__declspec(naked)

stdcall调用、 cdecl调用 、 fastcall调用区别与相同

1、相同方式都为从左到右压栈

1
2
3
4
5
6
7
8
9
10
11
12
13
volatile int __cdecl ft3(int a, int b)
{
return a + b;
}
volatile int __stdcall ft2(int a, int b)
{
int temp = ft3(a,b);
return temp;
}
volatile int __fastcall ft1(int a, int b)
{
return ft2(a, b);
}

fastcall调用方式默认前两个参数使用寄存器保存,第三参数开始压栈,栈清理与stdcall相同

stdcall函数参数在调用函数压栈,在被调函数清栈(ft2中retn 8 即为在被调用函数清栈)

cdecl函数参数在调用函数压栈,在调用函数清栈(ft3中 retn 即函数无清栈行为,看到ft2为调用者call后add esp,8即为清栈动作)

二、x64下的ASM与C/C++

1、在X86下函数参数为8byte的倍数(和字节对齐不一样)

x64下函数调用约定为4寄存器 __fastcall调用

以下为测试代码在X64下如此声明stdcall和cdecl皆没有意义,所有函数统一了调用约定为fastcall(但在调用系统API有些许不同会使用__cdecl )

1
2
3
4
5
6
7
8
9
10
11
12
volatile int __stdcall ft1(int a, int b, int c, int d, int& f, int* g,int h)
{
int temp = ft2(a,b,c,d,f,g);
return temp;
}
volatile int __cdecl ft2(int a, int b, int c, int d, int& f, int* g)
{
c += a + b + d + f + *g;

*g = c * 2;
return c;
}

ft1为调用者,ft2为被调用者

在64位下的应用程序对比32位在函数调用方面最大的变化就是调用者在调用函数时并不会有压栈的动作,一个函数总栈空间在调用之前就已经计算好,所以对于64位下程序来说,被调用函数参数保存在上一个函数的栈帧中,但并不是当上一个调用结束时函数参数才会被释放在调用其他函数时可能发生复写(与x86类似,但减少了push操作)

在msvc中 rbp 被优化成 rsp+栈帧大小

那么如何通过HOOK函数地址获取函数参数呢?

因为fastcall调用参数在 rcx、rdx、r8、r9 超过5个参数后rsp+8*n(n从5开始) rsp为返回的地址

从上图可以看出函数调用时会先用四个寄存器保存,进入函数后才写入栈中不会在调用时开辟栈帧

参考资料:c++调用约定、X64调用约定