近年来,随着移动互联网技术的飞速发展,移动应用于2019年首次超越网站成为提供互联网服务的主角。然而,伴随着移动应用的蓬勃发展,恶意犯罪者开始利用移动恶意应用谋取非法利益,开源、免费的Android平台因此成为恶意犯罪者的首选目标。面对Android平台日益严重的安全问题,传统的Android恶意应用检测方案存在很大的缺陷,因此,需要寻求一种高效、智能化的检测手段,保证Android平台应用安全。本文通过对现有的Android恶意应用检测技术进行研究,发现单一的特征无法全面、准确地描述Android应用,而多维、细粒度的Android应用行为特征数量庞大、冗余信息较多,不但需要巨大的计算开销,而且严重影响检测精度。此外,现今大部分研究仅对Android应用程序是否为恶意应用进行检测,而未对其属于哪个恶意家族进行分析。同一恶意家族的Android恶意应用程序通常包含大部分相同的恶意代码,在移动设备上运行时的恶意行为属性相同,具有一定的内在关联性与相似性,因此Android恶意家族分类也对Android应用安全研究有着重要意义。本文的主要研究和创新点如下:1.针对单一的Android静态特征无法全面、准确地描述Android应用的问题,本文通过对Android系统架构、安全机制、核心组件、APK结构等进行分析,设计了一种Android应用多维特征提取方案,通过逆向工程获取Android Mainfest.xml和.smali文件,从中提取权限、组件、Intent、API调用特征等,实验结果表明,这种多维特征可提高识别Android恶意应用准确率达95.48%。2.针对提取的多维、细粒度的Android应用行为特征数量庞大、冗余信息较多、严重影响了检测效率与检测精度的问题,设计了一种信息增益(IG)与离散二进制鲸鱼优化算法(BWOA)结合的混合特征选择方法,首先利用IG算法过滤去除冗余特征与不相干特征,然后利用BWOA算法选择Android应用的最优特征子集。该方法综合了过滤式特征选择方法的低时间开销以及包裹式特征选择方法的高准确率的优势,在减少学习时间的同时保持较高的检测精度。3.针对SVM分类模型参数难以确定的问题,提出了一种基于BWOA-SVM的协同优化方案,通过对改进WOA算法设计了一种基于SVM分类准确率、特征子集长度、支持向量个数的新适应度函数,实现在特征选择的同时,对SVM模型参数进行协同优化,实验结果表明,该方案对于Android恶意应用准确率和检测率分别提高到了97.88%和97.85%,拥有很好的自适应性与鲁棒性,在Android恶意应用检测方面具有较好的性能。4.针对各类Android恶意家族应用程序难以分析的问题,提出了一种基于APK彩色图像可视化的Android恶意家族分类方法,将classes.dex二进制文件分割切片转换为红绿蓝三色通道的值,将APK映射为RGB彩色图像,利用图像纹理特征来表示同一Android恶意家族应用在代码结构上的相似性,使用卷积神经网络模型进行恶意家族多分类,实验结果表明,Android恶意家族多分类准确率可达到94.75%。