在分布式计算环境下,一个软件系统可能被部署在多台主机上,而这些主机并不能保证都是完全可信赖的。在恶意主机环境下,软件系统可以被逆向工程或被篡改,其机密性、完整性与可用性受到威胁。业界迫切要求简便和行之有效的保护软件与软件知识产权的方法。代码混淆作为一种防止逆向工程的技术应运而生。尤其随着Java语言的迅速发展引起了对混淆技术的研究热潮。这是因为Java目标代码——字节代码(bytecode)很容易被反编译为Java源代码,这就迫切要求有效的保护Java字节代码的方法。 本文以保护软件,提高逆向工程代价为目标,分别从破解与保护两方面对逆向工程与代码混淆技术进行了深入的研究,针对Java字节代码的解析与混淆设计并实现了相应工具。主要研究工作包括: (1) 分析了恶意主机的攻击模型和攻击方法,以及相应的防御方法和防御体系。提出了一个通用的软件保护模型,该模型涵盖了4种安全服务:机密性、完整性、可用性、鉴别,对具体应用领域的软件保护策略的制定具有指导意义。 (2) 研究了控制混淆、数据混淆等主流的代码混淆技术,提出一个通用的针对面向对象程序的混淆转换模型。分析了Java运行环境对实现混淆转换的影响。并对控制流整合,间接控制跳转,类合并以及类型隐藏算法进行了设计、改进和实现。通过实验,分析评价了算法的有效性以及产生的性能过载。 (3) 研究了主流的逆向工程方法:静态分析技术、动态分析技术,设计实现了图形化的静态分析工具——控制流程图生成器。 (4) 设计并实现了用于分析和混淆转换Java字节代码的工具——JBPOT(Java Bytecode Parse and Obfuscate Tool),将混淆转换与逆向工程工具集成在一起,方便研究人员从破解与保护两方面对软件保护技术进行研究。