信赖域算法是求解无约束优化问题的一类主要解决方法。在传统的信赖域算法中,信赖域半径的选取通常是根据以往经验来确定的,因此具有一定的盲目性。为了克服上述缺陷,研究学者们提出了自适应技术和回溯技术。本文针对无约束优化问题,在回溯技术和自适应技术的基础上,加入了非单调策略,提出了非单调自适应信赖域算法、新的非单调回溯自适应信赖域算法和非单调回溯自适应三次正则化算法,并在相应的条件下证明了算法的全局收敛性。本文的主要工作如下:首先,本文将自适应技术和非单调技术应用到信赖域算法中,提出了非单调自适应信赖域算法,并研究了算法性质。其次,在回溯自适应信赖域算法的研究基础上,本文引进了非单调项T_k,并定义了两个新的非单调比率r_k+1^NR和r_k^NB,从而提出了一种求解无约束优化问题的新算法,并证明了其全局收敛性。最后,本文将非单调项f_l（k）加入到了回溯自适应三次正则化算法中,在合适的条件下,证明了算法的收敛性。