随着计算机技术的广泛应用,计算机软件的安全性变得愈发重要。软件漏洞作为影响计算机软件安全的重要因素之一,一旦被攻击者利用,其后果可能会非常严重。因此,及时发现并修复软件漏洞意义重大。然而通过安全专家审计软件源代码来挖掘漏洞是一种效率低下的漏洞挖掘方式。导向性灰盒测试（Directed Greybox Fuzzing）作为一种自动化的漏洞挖掘技术,相比于代码审计,能够高效地挖掘漏洞,因此受到了学术界和工业界的广泛关注。在导向性灰盒测试中,输入所对应的执行路径与目标代码段之间的距离就是输入的质量,距离越近,质量越高。目前的导向性灰盒测试工具由于在输入生成阶段随机选择变异位置和操作,导致生成的输入质量较差,最终造成了测试结束时生成的输入中能够到达目标代码段的输入所占比例较低这个问题。为了解决上述问题,需要在输入生成阶段选择对应着高质量输入的变异位置和操作。目前针对灰盒测试的优化工作可分为两类,一类使用了程序分析技术,另一类使用了机器学习技术。但是这两类工作都没有对变异时使用的选择策略进行优化,因此不能显著提高生成的输入中能够到达目标代码段的输入所占比例。本文分别利用程序分析技术和机器学习技术对变异时使用的选择策略进行了优化,完成了下面的工作:1.基于强化学习的输入生成方法。为了提高生成的输入中能够到达目标代码段的输入所占的比例,本工作提出了一种基于强化学习的输入生成方法。将基于种子输入生成新输入时如何选择变异位置和操作这一问题看作一个强化学习问题,环境状态为种子输入的执行路径,动作空间为变异位置和操作的组合空间,所选动作的即时奖励值为新输入与种子输入两者与目标代码段的距离之差。在基于种子输入生成新输入时,利用强化学习算法选择变异位置和操作。相较于目前的输入生成方法,该方法的创新之处在于该方法利用强化学习技术学习了变异位置和操作对所生成输入质量的影响,利用学习到的知识选择变异位置和操作。同时,本工作还提出了一种更适用于设置即时奖励的距离表示方法。相比于目前的输入生成方法,本工作提出的输入生成方法最高可将生成的输入中能够到达目标代码段的输入所占的比例提高11.6%。2.基于污点推断的输入生成方法。为了提高导向性灰盒测试的效率,本工作提出了 一种基于污点推断的输入生成方法。对于一条无法到达目标代码段的执行路径,找到该路径中最后一个目标代码段的前驱节点,通过改变该前驱节点的分支选择所生成的新路径,相比于原路径,与目标代码段的距离更近。基于上述分析,本工作以改变种子输入的执行路径中最后一个目标代码段的前驱节点的分支选择为目标,利用污点推断技术选择变异位置和操作,从而改善了新输入的质量。相比于广泛使用的测试工具AFLGo,基于该方法的测试工具最高可将生成的输入中能够到达目标代码段的输入所占的比例提高15.7%。总体而言,本文提出的两种输入生成方法各有优缺点。基于强化学习的输入生成方法在对语义复杂的应用程序进行测试的场景下表现更好,基于污点推断的输入生成方法在对输入语法简单的应用程序进行测试的场景下表现更好。