在互联网发展异常迅速的今天,互联网上的信息和内容控制显得尤为重要,然而近几年出现的一类互联网穿透类软件,能够通过动态代理服务器发送加密信息,从而突破网络封锁。本文的目的就是采取反向工程的方法对这类软件进行分析,掌握其软件结构及通信流程,从而给出对应的控制方案。本文针对花园这种穿透类软件的不同版本进行分析,设计一种针对Windows平台下的可执行程序的快速分析方法,应用该方法掌握花园软件不同版本的工作流程,加密代理获取方式,并且还原了软件内部的隐蔽信息,从而设计出针对性的控制方案,能够在不影响其他网络请求以及网络性能的情况下有效封堵花园的连接请求,并且在Linux服务器和嵌入式网关上得到实施。针对互联网通信软件的保护机制,本文应用反向工程的方法对Skype这款流行的即时通信软件进行了分析,提出了破解其保护机制的方案,同时深入研究其登陆验证以及通信过程中加密算法的实施。其次,本文研究了目前用于恶意软件定位和检测的方案及工具,以及自动化分析检测恶意软件的机制,比较这些机制的优劣势,从而为更准确全面地分析恶意软件提供方向。