近些年来,随着云计算、大数据技术的飞速发展,应对不同的应用需求和硬件环境,软件系统设置了许多可配置的参数和大量可供选择的工作负载。但是,对于绝大多数的软件系统使用者来说,设置这些软件系统参数和选择不同的工作负载来提高软件系统的性能是不可能做到的。虽然我们可以获得一些能够提升软件系统性能的优化方法,但是绝大多数方法的训练样本数量都是巨大的,对于样本数量少、优化时间一定的情况下的效果并不理想。所以,当时间和训练样本数量一定的情况下,对软件系统进行参数调优成为了现在工业界和学术界亟需解决的问题。针对上述提出的参数优化问题,本文对不同的软件系统进行调查和研究,提出了一种基于GAN的软件系统参数优化的方法,该方法以非传统的方式处理软件系统的配置调优问题,假设好的配置共享某些隐藏的结构,我们不尝试改进给定配置的性能评估,而是专注于捕获良好配置的隐藏结构,并使用这些隐藏结构生成可能更好的配置。该方法首先利用随机采样方法得到不同性能下的参数组合,利用前一步中性能较好的样本构建了一个基于GAN的生成器模型和判别器模型,生成器模型生成参数组合,判别器模型判断参数组合的性能好坏,最终得出推荐的参数。该方法可以在有限的样本和时间约束内,生成使得软件系统性能较优的参数组合。本文的研究内容主要分为以下几个方面:(1)定义软件系统的参数优化问题。针对不同的软件系统进行系统的性能建模,并将其建模为组合优化的问题,通过对不同软件系统的运行环境的测试和参数配置的筛选,得出了影响性能指标的一些关键参数组合,最后根据参数组合,明确了参数优化问题的具体定义。(2)设计实现了基于GAN的参数优化方法。通过训练生成判别模型,使得模型直接学习和利用现有良好配置的隐藏结构来推荐更好的参数配置,无需构建对于性能的预测模型,通过生成器模型和判别器模型进行参数配置的推荐与判别,最后得出生成器认为较好的参数配置。(3)采用基于随机的采样方法。通过训练生成器模型和判别器模型,结合随机采样方法,使得样本空间的覆盖性更加的全面,生成器模型可以学习到更多的配置参数组合的隐藏结构,对于构建出更加准确的生成器模型和判别器模型有着很大的意义。在实验过程中,本文使用随机生成的训练集对基于GAN的生成器模型和判别器模型进行训练,在8种不同的软件系统测试环境和17种不同的工作负载中,使用6种不同的调优算法对本文提出的参数优化的方法进行验证,最终的实验结果表明本文的参数优化方法得到的性能相比于默认配置提升了76.22%,相比于其它的6种对比算法提升了6.58%-64.56%。