随着现在Android平台上应用数量变得庞大,恶意应用类型日渐增多和不断变化,界定和描述恶意应用类别变得困难,并且由于恶意应用行为触发条件苛刻,监控到的恶意应用动态行为可能实际不含恶意,为通过恶意应用直接建立模型的动态检测方法造成训练样本代表性差的困难,并且导致此类方法在面对新类型的恶意应用时不能有效的进行检测。设计一种能够高效准确且便于应用的恶意软件检测方法变得十分重要。本文首先对Android系统的安全机制进行了研究,总结了其存在的隐患;接着分析了恶意软件不同类别之间的差异,及检测模型所选取的特征;调研了常用的检测算法以及各算法在样本不足时的改进方法,在此基础上提出了一种基于RRNS (Randomized Real-Valued Negative Selection,随机实值负向选择算法)的恶意软件动态检测模型。该模型使用样本生成算法扩充样本提高检测算法表现能力,相关实验和评估验证了该模型的有效性。