恶意软件分类可以快速追踪恶意软件家族的发展历程对网络安全的全局形势进行评估,以便对恶意软件进行防御。当面对大量恶意软件数据时,传统分析方法会出现标记过程复杂、时间慢等问题,无法满足当前对大量恶意软件分类的要求。深度学习在处理图像领域具有较好的效果,可以自动提取图像特征信息并分类。基于此,本文提出对Windows系统的恶意软件数据预处理转化为灰度图像并采用卷积神经网络融合注意力机制的算法对恶意软件进行分类。本文的主要工作如下:（1）在对恶意软件数据预处理中,首先通过分析可知恶意软件核心指令等都存在于代码段中,因此提出以代码段的特征来区分恶意软件。然后提取代码段并对其进行压缩,采用LZ77压缩方法保证同一家族压缩后的特征仍然具有相似性。最后将压缩后的代码段进行灰度图像转化,对灰度图像进行分析发现同一家族类型的灰度图像具有相似特征,不同家族的灰度图像具有差异性,因此采用深度学习对灰度图像进行分类。（2）在卷积神经网络融合注意力机制中,先由多个卷积层构成了一个卷积神经网络模型,将恶意软件灰度图像作为模型的输入,经过卷积层进行特征的提取。为保证恶意软件灰度图的边缘细节纹理能够学习,将特征图传入通道注意机制模块中获取需要关注的特征值,与特征图相乘得到新的特征图,再经过一个空间注意力机制模块得到需要关注的区域,将通道特征图与空间特征图相结合,最终形成需要关注的特征,从而学习到新的特征信息具有更强的鲁棒性。经实验证明,该算法提高了准确率,同时提升计算机资源的利用率、节省时间。（3）设计并实现了一个恶意软件分类系统。运用Django框架搭建Web网站。通过系统测试,本系统功能已达到用户需求,且系统具有较高并行访问能力和有较快的响应速度。