Tan's Blog.

304Challenge:虚拟机的实现

304反汇编测试
字数统计: 1.2k阅读时长: 4 min
2019/04/26 Share

为了进一步了解虚拟机是如何解释执行任意一段与当前指令集相符的程序，阅读了一篇关于基于寄存器的的虚拟机实现的相关文章。

虚拟机的设计与实现

虚拟机原理

虚拟机用软件模拟指令在硬件机器中执行的全过程，即先从磁盘中读取字节码文件 ，存储到虚拟机开辟的内存段中，再将指令加载到虚拟机寄存器并予以执行。它并不是指某个特定的软件 ，而是一整套完整的规范，可以用不同的程序设计语言在不同的硬件平台上实现。不论是硬件机器还是虚拟机系统 ，只要遵循相同的规范，即可运行遵循该规范的可执行代码。

两种处理器引擎

Stack-Based虚拟机在运行时对系统资源的消耗要远小于Register-Based虚拟机 ，但堆栈将会延伸到内存 ，后者的计算处理则全部在芯片内部的寄存器上完成，因此后者的处理速度要远远高于前者。

虚拟机的工作流程

1.启动虚拟机，并处理命令行输入
2.初始化虚拟机运行环境
3.调入并加载文件
4.格式化内存存储方式
5.执行指令
其中虚拟机的初始化和执行字节码阶段是整个程序运行的核心

初始化虚拟机

通过输入命令行，获取字节码文件的信息，并传入处理函数。在myvm中其实就是将文件送入sub_CE0()中，将字节码字段加载到 内存空间的正文段。为了清楚的描述sub_CE0()的功能，将它的算法提炼出来如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
if(文件大小为零或文件打开错误)
	{记录并打印错误，并直接返回 }
if(正文段、数据段和堆栈段的长度之和 宿主机的可用内存)
	{记录并打印错误，并直接返回 }
分配内存 R= malloc(正文段、数据段和堆栈段的长度之和)；
初始化段寄存器：
	RICS]指向正文段末尾
	R[DS]指向数据段首
	R[ES]指向数据段末尾
	R[SSI指向堆栈段首
	R[TOP]指向堆栈段的末尾 ，即所开辟内存空问的末尾
初始化指针寄存器 ：
	R[IP]指向正文段首，即内存地址为O处
	R[SP]指向所开辟内存空间的末尾
重新返回字节码文件的字节码部分，调用fseek()定位字节码部分的位置；
读取字节码部分，并将其加载入所开辟的内存正文段中。

执行字节码

加载好字节码内容后，就该将这些字节码翻译执行了。把这些字节码送入指令执行引擎函数sub_E90中，将字节码指令从虚拟地址0处开始逐条执行，当遇到HALT指令或发生错误时停止。参照基于寄存器的处理器的设计方法 ，此阶段指令执行过程的算法如下(其中，R[IP]表示指令指针寄存器IP的值 ；RAM[R[IP]]表示 内存地址为R[IP]处的指令或数值)：

1
2
3
4
5
6
7
8
while(内存地址为r[iP]不等于中止指令HALT){
	switch(内存地址为r[ip]的指令){
		case MOV：{···；}break；
		······各种指令的具体执行：
		default：{ERROR；}break；
		}
	将指令指针IP指向下一条指令；
}

其实准确来讲myvm中sub_E90函数执行的是中间switch那段，用于识别各种机器指令，并执行。
机器指令按照操作数的不同来分，包括双操作数指令(OP DEST，SRC)、单操作数指令(OPDEST)、无操作数指令(op)等3种。由于操作数的不同直接关系到指令指针IP的变化不同，因此R[IP]值的变化将因具体指令的操作数不同而异。下面通过 LAI R1，R2，qword指令来解释具体的指令执行过程 。
指令功能：将基地址(reg2)和地址偏移量(8 bytes常量)相加得到的结果存入目的寄存器中
指令流程：

1
2
3
4
5
寄存器1=寄存器2的值+8字节常量
R[下标]=R[下标+1]+(signed_int64)*(signed_int64 *)常量地址
R[下标]=R[下标+1]+(signed_int64)*(signed_int64 *)& RAM[下标+2]
下标=RAM[reg1]
R[RAM[R[IP]+1]]=R[RAM[R[IP]+2]]+(signed_int64)*(signed_int64 *)& RAM[R[IP]+3]

总结

通过今天的学习验证了之前代码的分析，也初步明确sub_E90中switch分支的结构，下一步应该对switch每一条语句进行分析，识别出每一个分支具体实现了哪条指令。

原文作者：Tan

原文链接：http://yoursite.com/2019/04/26/304Challenge-虚拟机的实现/

发表日期：April 26th 2019, 7:59:25 pm

更新日期：May 24th 2019, 9:19:39 pm

版权声明：本文采用知识共享署名-非商业性使用 4.0 国际许可协议进行许可

CATALOG
  1. 1. 虚拟机的设计与实现
    1. 1.1. 虚拟机原理
    2. 1.2. 两种处理器引擎
    3. 1.3. 虚拟机的工作流程
      1. 1.3.1. 初始化虚拟机
      2. 1.3.2. 执行字节码
    4. 1.4. 总结
Total : 60
2019
半月总结 201拆弹测试 304反汇编测试 CTF 深入理解计算机系统 软件安全分析与应用 实践