随着互联网技术的飞速发展,恶意软件的传播途径也越来越多,恶意软件给互联网安全带来了巨大的风险。同时,变形、多态、混淆等技术的日益成熟,恶意软件的保护机制逐渐增强,使得传统的基于特征码的扫描方式逐渐失效。这些年来,依赖于机器学习的自学习能力,研究人员提出了大量的恶意软件的识别方法,机器学习可以从大量已知样本中归纳恶意软件识别经验,生成具有识别功能的模型,不仅对已知的恶意软件有较强的识别能力,而且对预测未知的恶意软件也有较高的准确率。本文为解决恶意软件分类准确率较低的问题,提出了两种恶意软件分类方法,基于API调用序列的循环神经网络分类方法和基于多分类器集成的分类方法。其主要工作如下:1)基于信息增益对样本的特征进行选择。本文使用的特征包括基于N-gram的操作码序列特征、PE结构信息特征和基于反汇编文件生成的API调用序列特征。为了提高恶意软件的识别速度和高准确率,本文利用信息增益算法对提取的特征进行了特征选择,过滤掉特征集中重要性较低特征。其中进行特征选择的特征有操作码序列、导入表信息、区块名、API调用函数等四组特征。2)提出了基于API调用序列的循环神经网络的分类方法。首先本文对反汇编文件进行分析,从上往下的顺序对调用的API函数进行提取和排序。基于循环神经网络处理序列化问题强的优点,本文利用API调用序列对双向神经网络作进行训练,并与文献中较常见的恶意软件分类方法,即基于操作码序列的随机森林、基于PE结构的SVM分类器进行了实验对比。3)提出基于多分类器集成的恶意软件分类方法。本文不仅实现了基于API调用序列的循环神经网络,还实现了基于操作码的随机森林和基于PE结构的SVM分类器。并利用本文获取的样本进行实验分析证明这些方法都是可行的,通过软投票的方法,集成了三种分类器并实现了多分类器集成的恶意软件分类方法,并与多特征融合的分类方法进行实验对比。实验阶段,本文集成了三种分类器与多特征融合的恶意软件分类方法进行了实验对比,本文提出的方法最终获得93.2%的准确率,相比于多特征融合方法高出了1.8个百分点,证明本文提出的方法具有更高的准确性。