最优化方法是应用性很强的学科,它是运筹学的一个重要组成部分,很多实际问题都可以用最优化方法来解决。非光滑优化是最优化的一个重要分支,因此,对非光滑优化问题的研究具有重要意义。对于无约束非光滑优化问题,如何设计快速有效的算法一直备受人们的关注,其中信赖域算法是解决无约束非光滑优化问题的一类有效的方法。近年来,学者们对信赖域算法的研究日趋完善,但对非单调信赖域算法理论的研究仍不完善。本文首先对研究问题的背景和相关现状进行了综合的阐述,介绍了本研究所需要的预备知识,并在此基础上详细介绍了非光滑优化信赖域算法,本文的核心内容是针对无约束非光滑优化问题,提出了非光滑优化的改进信赖域算法和非单调信赖域算法,非单调算法放松了接受尝试步的条件,且在一定程度上能克服约束优化问题中常产生的“Marotos”效应。信赖域策略和非单调直线搜索技术相结合的方法,既保持信赖域法的特点,又由于放松了接受尝试步的条件,使得新算法更加有效。理论证明了算法的收敛性,通过数值实验验证了算法的有效性。